Pracownicy OpenAI i Anthropica biją na alarm. "To może zagrozić ludzkości"
Po odejściu Jacoba Coxona, badacza Anthropica, który oskarżył branżę o ignorowanie zagrożeń związanych z rozwojem superinteligencji rozgorzała debata na temat bezpieczeństwa w AI. Swoje obawy publicznie potwierdzili pracownicy OpenAI i Anthropica - podała Polska Agencka Prasowa (PAP).
Część z pracowników i byłych pracowników firm związanych z AI uważa, że ryzyko katastrofalnych skutków rozwoju sztucznej inteligencji jest realne i wymaga działań całej branży. Impulsem stała się rezygnacja Jacoba Coxona, badacza odpowiedzialnego za szkolenie modeli AI w Anthropicu, który pracował również w w OpenAI.
Odchodząc z firmy stwierdził, że zarówno Anthropic, jak i OpenAI prowadzą wyścig w kierunku samodoskonalącej się superinteligencji, mimo świadomości potencjalnych zagrożeń dla ludzkości. Na słowa byłego badacza odpowiedzieli obecni pracownicy obu firm. Część z nich przyznała, że ryzyko nie jest jedynie teoretyczne.
„Jacob ma rację - naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi! (...) Uważam, że Anthropic robi, co może, ale nie mamy jeszcze planu rozwiązania problemu dostosowania się do superinteligencji do interesów ludzi i nie jesteśmy na dobrej drodze do jego osiągnięcia” - napisał na X Evan Hubinger, lider zespołu Anthropic.
Podobne stanowisko przedstawił Samuel Marks, kierujący zespołem odpowiedzialnym za nadzór nad modelami. Według niego osoby pracujące nad zaawansowaną AI dopuszczają możliwość, że rozwijane systemy mogłyby doprowadzić do wyginięcia ludzkości lub innej katastrofy o porównywalnej skali.
„To może się stać w ciągu najbliższych kilku lat. Ogółem rzecz biorąc, im wyższa ranga pracownika, tym bardziej jest tym zaniepokojony” - zaznaczył Marks.
Z kolei Jason Wolfe z OpenAI, również zajmujący się alignmentem, przekonuje, że pojedyncza firma nie jest w stanie samodzielnie rozwiązać problemu bezpieczeństwa AI. Jego zdaniem skuteczne ograniczenie ryzyka wymaga współpracy całego sektora.
„W obecnym, szczerze mówiąc przerażającym tempie (wyścigu), ludzkość będzie miała dużo szczęścia, jeśli uda nam się znaleźć i utrzymać wąską ścieżkę pomiędzy wszystkimi złymi rezultatami” - przyznał Jason Wolfe, specjalista ds. alignment z OpenAI.
Obawy dotyczące skutków rozwoju AI nie są nowe. Dyrektor generalny Anthropica Dario Amodei już wcześniej oceniał prawdopodobieństwo cywilizacyjnej katastrofy związanej ze sztuczną inteligencją na poziomie od 10 do 25 proc.
Nie wszyscy podzielają katastroficzne prognozy przedstawicieli branży AI.
Krytycy od dawna twierdzą, że firmy rozwijające sztuczną inteligencję świadomie eksponują najbardziej spektakularne scenariusze zagrożeń, ponieważ wzmacnia to postrzeganie ich technologii jako przełomowej i zwiększa zainteresowanie inwestorów.
Debata o bezpieczeństwie AI odbywa się w momencie szczególnym dla obu firm. Zarówno OpenAI, jak i Anthropic przygotowują się do wejścia na giełdę, a analitycy oceniają, że ich wyceny mogą przekroczyć bilion dolarów, co postawiłoby je w gronie najcenniejszych spółek technologicznych świata.
