Droga do stworzenia sztucznej inteligencji ogólnej (AGI) może wiązać się z „katastrofalnymi skutkami”, takimi jak cyberataki na infrastrukturę energetyczną lub wodną, ostrzegał Demis Hassabis, prezes Google DeepMind. Zasugerował, że AGI może pojawić się w ciągu najbliższej dekady.
Przemawiając na szczycie Axios AI+ w San Francisco w zeszłym tygodniu, Hassabis opisał AGI jako model, który wykazuje „wszystkie zdolności poznawcze” człowieka, w tym inwencję i kreatywność.
Argumentował, że obecne duże modele językowe pozostają „postrzępionymi inteligencjami” z lukami w rozumowaniu, długoterminowym planowaniu i ciągłym uczeniu się.
Zasugerował jednak, że AGI może wkrótce stać się rzeczywistością dzięki ciągłemu skalowaniu i „jednemu lub dwóm kolejnym dużym przełomom”.
Jednocześnie Hassabis przyznał, że okres poprzedzający AGI prawdopodobnie będzie wiązał się z namacalnymi ryzykami i „katastrofalnymi skutkami”, takimi jak cyberataki na infrastrukturę energetyczną lub wodną.
„To prawdopodobnie już się dzieje… może jeszcze nie w przypadku bardzo zaawansowanej sztucznej inteligencji” – powiedział, nazywając to „najbardziej oczywistym wektorem podatności”.
Dodał, że aktorzy ataku, autonomiczni agenci i systemy, które „odbiegają” od zamierzonych celów, wymagają poważnych działań łagodzących
. „To nie jest zerowe prawdopodobieństwo” – powiedział o możliwości, że zaawansowane systemy mogą „przeskoczyć barierę ochronną”.
Obawy Hassabisa odzwierciedlają szersze ostrzeżenia w branży technologicznej.
W liście otwartym opublikowanym w październiku, podpisanym przez czołowych technologów i osoby publiczne, stwierdzono, że „superinteligentne” systemy mogą zagrozić wolności, a nawet przetrwaniu człowieka, wzywając do globalnego zakazu rozwoju sztucznej inteligencji do czasu zapewnienia jej bezpieczeństwa.
Wśród sygnatariuszy listu znaleźli się współzałożyciel Apple Steve Wozniak, pionierzy sztucznej inteligencji Geoffrey Hinton i Yoshua Bengio, założyciel Virgin Group Richard Branson oraz wybitne osobistości polityczne i kulturalne.
Inni przyjęli bardziej optymistyczne podejście. Elon Musk powiedział w zeszłym miesiącu, że postęp w dziedzinie sztucznej inteligencji i robotyki może sprawić, że praca stanie się „opcjonalna” w ciągu 10–20 lat i przewidział, że waluta może stracić na znaczeniu w gospodarce opartej na sztucznej inteligencji, zaznaczając jednocześnie, że zanim taka przyszłość będzie mogła się ziścić, konieczny jest jeszcze znaczny postęp technologiczny.
Przetlumaczono przez translator Google
zrodlo:https://www.rt.com/news/629166-advanced-ai-catastrophic-outcomes/
Brak komentarzy:
Prześlij komentarz