Jak wynika z ustaleń „The Wall Street Journal”, powodem wycofania projektu z planów produkcyjnych są negatywne wyniki wewnętrznych testów bezpieczeństwa. Nowe narzędzie miało docelowo trafić do popularnych usług startupu: do oprogramowania ChatGPT oraz platformy Codex, wspierającej programistów w pisaniu kodu.
Problemy z autonomicznym działaniem nowego systemu
Wycofany model projektowano z myślą o realizacji znacznie bardziej złożonych i zaawansowanych zadań. Jego kluczową właściwością miała być zdolność do autonomicznej pracy, czyli wykonywania skomplikowanych operacji bez konieczności stałego nadzoru czy ingerencji człowieka. Wewnętrzne badania wykazały jednak, że system nie spełnia wyśrubowanych standardów w zakresie bezpieczeństwa oraz przewidywalności swoich działań.
Pojawienie się niepokojących zachowań podczas testów skłoniło firmę do wstrzymania prac wdrożeniowych. Decyzja ta zapadła na krótko przed coroczną konferencją dla deweloperów, na której OpenAI tradycyjnie prezentuje swoje najważniejsze innowacje oraz zapowiada nowe rozwiązania dla partnerów technologicznych.
Kwestia bezpieczeństwa kluczowa dla branży AI
Przypadek wycofania nowego modelu to wyraźny sygnał dla całego rynku, pokazujący realne wyzwania związane z rozwojem autonomicznych agentów sztucznej inteligencji. Wraz ze wzrostem sprawczości systemów AI rośnie ryzyko wystąpienia błędów, które mogą uniemożliwić ich bezpieczną komercjalizację. Wstrzymanie debiutu ma zagwarantować, że do rąk deweloperów oraz użytkowników końcowych trafią wyłącznie w pełni zweryfikowane i godne zaufania algorytmy.
Branża z niecierpliwością oczekuje na kolejne kroki przedsiębiorstwa oraz nadchodzące wydarzenie deweloperskie, na którym poznamy plan dalszego rozwoju architektury sztucznej inteligencji.
