Updated 12 Nov, 2026 02:50
Sztuczna inteligencja może wymknąć się spod kontroli człowieka w ciągu trzech lat, co potencjalnie doprowadzi do masowych zgonów – ostrzega Paul Christiano, członek zarządu OpenAI.
Podczas wtorkowego wykładu w ramach cyklu Hinton Lectures w Toronto, Christiano zwrócił uwagę, że coraz potężniejsze systemy sztucznej inteligencji – wykraczające poza ludzkie możliwości – mogą stać się tak zaawansowane, iż ludzie nie będą w stanie zrozumieć, przewidzieć ani kontrolować ich zachowań.
„Jeśli system AI podejmuje działania, których sobie nie życzymy, może ukryć fakt, że to robi, a także celowo wprowadzać zamęt, by uniknąć przypisania mu odpowiedzialności” – stwierdził.
Dodał również, że ludziom może być niezwykle trudno przewidzieć konsekwencje postępowania zgodnie z radami generowanymi przez sztuczną inteligencję.
W innym wystąpieniu, które miało miejsce w poniedziałek, Christiano ostrzegł, że w ciągu trzech lat AI może przejąć kontrolę nad ludzkością.
Może to doprowadzić do śmierci wielu osób – zarówno w trakcie samego procesu przejmowania władzy, jak i później, jeśli ludzie utracą zdolność do utrzymania warunków niezbędnych do życia.
„Uważam, że dla większości osób na tej sali najbardziej prawdopodobną przyczyną śmierci będzie wypadek związany ze sztuczną inteligencją” – powiedział.
Christiano, który we wrześniu dołączył do zarządu (Foundation Board) oraz komitetu ds. bezpieczeństwa (Safety and Security Committee) w OpenAI, przywołał incydent, w którym agenty AI miały ominąć zabezpieczenia podczas testów wewnętrznych.
Uzyskały wówczas nieautoryzowany dostęp do infrastruktury badawczej OpenAI oraz platformy Hugging Face, służącej do tworzenia rozwiązań z zakresu sztucznej inteligencji.
Choć OpenAI wdrożyło ramy przeciwdziałania zagrożeniom cybernetycznym oraz ryzyku utraty kontroli nad zaawansowanymi systemami, Christiano ostrzega, że obecne zabezpieczenia są wciąż niewystarczające.
Ostrzeżenia te pojawiły się w czasie, gdy rządy państw oraz czołowi twórcy sztucznej inteligencji – w tym OpenAI, Microsoft i Anthropic – podpisali w poniedziałek w Paryżu dobrowolną deklarację dotyczącą bezpieczeństwa.
Porozumienie wzywa do ściślejszego nadzoru i wprowadzenia mechanizmów awaryjnego wyłączania systemów, jednak nie nakłada wiążących terminów ani kar, a także nie przyznaje rządom dodatkowych uprawnień, które pozwoliłyby na zatrzymanie niebezpiecznych systemów AI.
Organizacja CeSIA, zajmująca się bezpieczeństwem sztucznej inteligencji i również będąca sygnatariuszem deklaracji, zaapelowała o przyznanie władzom uprawnień do wstrzymywania prac nad rozwojem i wdrażaniem AI w sytuacjach, gdy ryzyko stanie się niemożliwe do zaakceptowania.
Niezależnie od tego, Maxime Fournes – szef kampanii PauseAI, która postuluje wstrzymanie rozwoju zaawansowanej sztucznej inteligencji do czasu zapewnienia jej pełnego bezpieczeństwa – ostrzegł, że technologia ta może doprowadzić do paraliżu systemów bankowych, sieci komunikacyjnych oraz innej infrastruktury krytycznej poprzez przeprowadzenie niszczycielskich cyberataków.
W poniedziałkowej rozmowie z agencją Anadolu Fournes ocenił, że istnieje 50-procentowe prawdopodobieństwo wystąpienia w ciągu najbliższego roku poważnej katastrofy cybernetycznej związanej ze sztuczną inteligencją, o ile nie zostaną podjęte pilne działania.
„To globalne zagrożenie katastroficzne – coś, co w razie urzeczywistnienia mogłoby nas bardzo szybko cofnąć do średniowiecza” – ostrzegł.
Przetlumaczono przez translator Google
zrodlo:https://rt-english.com/news/648719-ai-takeover-humanity-deaths/
Brak komentarzy:
Prześlij komentarz