Published 20 Aug, 2026 10:53
Logo OpenAI wyświetlane na smartfonie. © Getty Images / Omar Marques
Firma OpenAI, twórca ChatGPT, ogłosiła, że spowalnia prace nad rozwojem swoich modeli sztucznej inteligencji, powołując się na zagrożenia dla bezpieczeństwa.
W lipcu jeden z zaawansowanych botów AI tej firmy nieumyślnie wydostał się ze środowiska testowego, uzyskał dostęp do internetu i włamał się na serwery Hugging Face – internetowego repozytorium modeli i zbiorów danych AI.
We wtorkowym oświadczeniu OpenAI stwierdzono, że incydent z udziałem Hugging Face oraz ogólny wzrost możliwości modeli sztucznej inteligencji „nadały większe znaczenie naszym pracom nad wzmocnieniem mechanizmów monitorowania, dostosowania (alignment) oraz zabezpieczeń ograniczających ryzyko na wszystkich etapach procesu uczenia”.
„W miarę jak modele stają się coraz bardziej zaawansowane, rośnie również ryzyko związane z ich wewnętrznym opracowywaniem i testowaniem. Nasze standardy w zakresie monitorowania, dostosowania i bezpieczeństwa muszą wyprzedzać te zagrożenia” – czytamy w komunikacie.
Firma kierowana przez prezesa Sama Altmana poinformowała, że „tymczasowo zwolniła tempo skalowania” działań, pracując jednocześnie nad wdrożeniem niezbędnych ulepszeń.
Podjęte środki obejmują dwutygodniową przerwę w uczeniu najnowszych modeli OpenAI oraz przydzielenie dodatkowych botów AI do monitorowania zachowania agentów AI podczas testów.
Największy planowany proces uczenia modelu „pozostaje wstrzymany; w międzyczasie prowadzimy szkolenia i ewaluacje na mniejszą skalę, aby ocenić zachowanie modelu, zweryfikować zabezpieczenia i zgromadzić więcej dowodów na właściwe dostosowanie systemu, zanim przejdziemy do kolejnych etapów” – napisano w oświadczeniu.
Dostosowanie (ang. *alignment*) to kluczowy proces zapewniający, że systemy AI zachowują się zgodnie z zamierzeniami twórców i poddają się ludzkiej kontroli.
W zeszłym tygodniu amerykański senator Bernie Sanders opublikował list skierowany do prezesów trzech wiodących firm z branży AI – OpenAI, Anthropic i Meta – wzywając ich do „zaprzestania tworzenia maszyn, których ludzie nie są w stanie kontrolować”.
„Panie Altman, panie [Dario] Amodei i panie [Marku] Zuckerberg: w imię dobra ludzkości dotrzymajcie słowa. Wstrzymajcie rozwój sztucznej inteligencji” – napisał.
Zdaniem Sandersa incydenty, w których sztuczna inteligencja wymyka się spod kontroli, powinny być sygnałem ostrzegawczym.
Ostrzegł również, że jeśli technologia ta trafi w „niepowołane ręce”, może doprowadzić do powstania „nowej broni biologicznej, która spowoduje śmierć dziesiątek milionów ludzi”.
Zapytany w zeszłym miesiącu o incydent związany z Hugging Face, prezydent USA Donald Trump stwierdził: „Przyglądamy się sztucznej inteligencji, rozważamy kwestię kontroli”.
Podkreślił jednak, że Ameryka musi być światowym liderem w dziedzinie AI, dodając, że nie chce regulacji, które sprawiłyby, iż kraj ten znalazłby się „za Chinami”.
Przetlumaczono przez translator Google
zrodlo:https://www.rt.com/news/644437-openai-ai-altamn-slowdown/
Brak komentarzy:
Prześlij komentarz