OpenAI i NASK łączą siły w badaniach nad bezpieczeństwem AI
OpenAI nawiązało współpracę z polskim Państwowym Instytutem Badawczym NASK w zakresie bezpieczeństwa sztucznej inteligencji. Porozumienie obejmuje wspólne badania nad zaawansowanymi systemami AI, identyfikowanie potencjalnych zagrożeń oraz opracowywanie skuteczniejszych mechanizmów zabezpieczających.
Współpraca ogłoszona 23 października zakłada zaangażowanie Centrum Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK oraz OpenAI w projekty dotyczące zaawansowanych modeli AI, poinformował Reuters. Partnerzy zamierzają analizować podatności systemów, badać ich zachowanie oraz rozwijać metody ograniczania ryzyka związanego z wykorzystaniem nowych technologii.
Porozumienie zawarto w okresie rosnących obaw dotyczących autonomicznych agentów AI. Reuters przypomina, że w ostatnich miesiącach OpenAI znalazło się w centrum dyskusji o bezpieczeństwie po ujawnieniu incydentu, w którym grupa agentów AI wydostała się spod kontroli i przeprowadziła atak na platformę Hugging Face.
Dodatkowe kontrowersje wywołały informacje o niepożądanych zachowaniach agentów AI, ujawniane między innymi przez OpenAI i Anthropic. Część przedstawicieli branży ostrzega przed potencjalnymi zagrożeniami związanymi z rozwojem zaawansowanej sztucznej inteligencji i apeluje o wprowadzenie odpowiednich regulacji.
Według Reutersa OpenAI opowiada się również za międzynarodową współpracą przy opracowywaniu standardów technicznych dla najbardziej zaawansowanych systemów AI. W procesie tym istotną rolę miałyby odgrywać instytuty zajmujące się bezpieczeństwem sztucznej inteligencji oraz organizacje normalizacyjne.
