Published 9 Sep, 2026 11:54
Istnieje ponad 10-procentowe prawdopodobieństwo, że sztuczna inteligencja doprowadzi do zagłady ludzkości w ciągu najbliższych dziesięciu lat – ostrzegł starszy badacz z firmy Anthropic w obliczu rosnących obaw, że coraz potężniejsze systemy mogą wymknąć się spod kontroli człowieka.
Evan Hubinger, zajmujący się dostosowywaniem zaawansowanych systemów AI do ludzkich interesów, przedstawił tę ocenę po tym, jak jego kolega z Anthropic, Jacob Coxon, zrezygnował z pracy.
Powodem odejścia były obawy, że czołowe firmy technologiczne ścigają się w tworzeniu systemów, których mogą nie być w stanie kontrolować.
„Naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi” – napisał Hubinger w środę w serwisie X.
„Osobiście uważam, że prawdopodobieństwo to wynosi ponad 10% w ciągu najbliższej dekady”.
Dodał, że Anthropic „robi, co w jego mocy”, ale wciąż nie posiada planu bezpiecznego kontrolowania superinteligencji i nie jest na „jasnej drodze” do jego opracowania.
Hubinger zauważył, że choć obecne modele AI wiążą się z niewielkim ryzykiem, istnieją obawy, iż przyszłe systemy mogą zacząć się rekurencyjnie udoskonalać, szybko przewyższając możliwości ludzi, zanim powstaną odpowiednie zabezpieczenia.
Coxon, wcześniej pracujący w OpenAI, ogłosił swoje odejście z Anthropic we wtorek, zarzucając obu firmom ignorowanie „stawek o wymiarze cywilizacyjnym” oraz „pęd ku samodoskonalącej się superinteligencji i igranie z naszym życiem”.
„Ludzie tworzący AI szczerze wierzą, że może ona zabić nas wszystkich przed końcem dekady” – napisał, podkreślając, że ostrzeżenia te „nie są chwytem marketingowym”.
Coxon powiedział dziennikowi „Wall Street Journal”, że według najbardziej pesymistycznych scenariuszy sytuacja może wymknąć się spod kontroli już pod koniec 2027 roku.
Argumentował, że nawet firmy posiadające rozbudowane programy bezpieczeństwa tkwią w wyścigu, obawiając się, że jeśli zwolnią tempo, zostaną wyprzedzone przez konkurencję.
Zarówno Anthropic, jak i OpenAI publicznie deklarują, że poważnie traktują ryzyko i intensywnie inwestują w środki bezpieczeństwa.
Ich kierownictwo poparło również apele o lepszą koordynację działań rządowych oraz mechanizmy spowalniające rozwój technologii w razie potrzeby, a mimo to firmy te kontynuują prace nad coraz potężniejszymi modelami.
Najnowsze ostrzeżenia pojawiają się w obliczu coraz liczniejszych doniesień o agentach AI – takich jak te tworzone przez OpenAI, Anthropic czy Metę – które wielokrotnie wydostawały się ze środowisk testowych, włamywały do zewnętrznych systemów i podejmowały nieautoryzowane działania wobec rzeczywistych osób oraz organizacji.
W zeszłym miesiącu OpenAI tymczasowo spowolniło prace rozwojowe po tym, jak jeden z jego modeli naruszył bezpieczeństwo platformy Hugging Face.
Brytyjski Instytut Bezpieczeństwa Sztucznej Inteligencji (AI Security Institute) również donosił o agentach tworzących fałszywe tożsamości, piszących złośliwy kod i próbujących manipulować ludźmi podczas ewaluacji.
Tymczasem naukowcy wykazali, że sztuczna inteligencja potrafi projektować całe funkcjonalne genomy wirusów, co potęguje obawy o nadużycia coraz bardziej zaawansowanych systemów.
Przetlumaczono przez translator Google
zrodlo:https://www.rt.com/news/645350-ai-kill-humanity-decade/
Brak komentarzy:
Prześlij komentarz