Naukowcy chcą międzynarodowego nadzoru nad AI
Około 400 naukowców z 21 krajów apeluje o utworzenie międzynarodowego organu, który ustalałby standardy bezpieczeństwa zaawansowanych systemów sztucznej inteligencji i nadzorował ich przestrzeganie - podała agencja Reutera. Badacze domagają się również publicznego rejestru poważnych incydentów związanych z AI oraz zaostrzenia zasad testowania nowych modeli.
W liście otwartym opublikowanym we wtorek 13 października 2026 r. naukowcy wezwali do natychmiastowych zmian w sposobie rozwijania i wdrażania sztucznej inteligencji. Wśród sygnatariuszy znaleźli się pionierzy tej dziedziny Geoffrey Hinton i Yoshua Bengio.
Autorzy apelu uważają, że rozwój coraz bardziej zaawansowanych modeli AI wymaga niezależnego nadzoru i wspólnych standardów obowiązujących podmioty z całej branży. Ich zdaniem dobrowolne deklaracje firm nie zapewniają wystarczającej kontroli nad potencjalnymi zagrożeniami.
Naukowcy proponują, aby najbardziej zaawansowane modele sztucznej inteligencji na początkowym etapie rozwoju były fizycznie odizolowane od zewnętrznych sieci. Dostęp do systemów zewnętrznych powinien być ograniczony do czasu przeprowadzenia odpowiednich testów i niezależnej oceny bezpieczeństwa.
Badacze apelują również o szybkie wdrożenie standardów cyberbezpieczeństwa przez firmy rozwijające i testujące modele AI. Rządy powinny natomiast rozpocząć prace nad formalnymi mechanizmami nadzoru, które pozwolą egzekwować wymagania dotyczące bezpieczeństwa.
Jednym z proponowanych rozwiązań jest publiczny rejestr poważnych incydentów związanych z AI. Umożliwiłby on dokumentowanie przypadków naruszenia zabezpieczeń i ułatwił ocenę ryzyka związanego z wdrażaniem zaawansowanych systemów.
Naukowcy przekonują, że bezpieczeństwo zaawansowanej sztucznej inteligencji nie powinno zależeć wyłącznie od wewnętrznych procedur poszczególnych firm. Propozycja naukowców zakłada stworzenie dodatkowego, międzynarodowego poziomu nadzoru. Jej realizacja wymagałaby uzgodnienia wspólnych zasad przez państwa oraz określenia kompetencji nowej instytucji. Na obecnym etapie apel przedstawia postulaty badaczy, a nie gotowy mechanizm regulacyjny.
