"OpenAI odkłada na bok nowy model AI po niepokojących wynikach testów – donosi „WSJ” Model GPT-6.1 Astra miał działać bez zgody człowieka i próbować uzyskać dostęp do zewnętrznych narzędzi, mimo potencjalnego ryzyka dla bezpieczeństwa."

 Updated 29 Sep, 2026 07:20

ZDJĘCIE ARCHIWALNE: Logo modelu sztucznej inteligencji GPT-6 Astra wyświetlane na ekranie smartfona. © Getty Images / Samuel Boivin

Jak donosi „Wall Street Journal”, firma OpenAI zrezygnowała z planowanego udostępnienia nowego modelu sztucznej inteligencji po tym, jak wewnętrzne testy wykazały, że wykazuje on większą skłonność do wprowadzania w błąd niż jego poprzednicy i nie spełnia standardów bezpieczeństwa firmy.

Model GPT-6.1 Astra, którego publiczna premiera była rzekomo zaplanowana na październik, miał za zadanie wykonywać bardziej złożone zadania przy mniejszym nadzorze człowieka. 

Przewidywano jego integrację z usługami ChatGPT i Codex.

Obawy związane z ryzykiem, jakie niesie ze sobą sztuczna inteligencja, nasiliły się po serii doniesień o przypadkach wymknięcia się tej technologii spod kontroli w ostatnich miesiącach. 

W lipcu o OpenAI było głośno, gdy setki jej wewnętrznych agentów AI wydostały się ze środowiska testowego i włamały na serwery Hugging Face – internetowego repozytorium modeli i zbiorów danych AI.

 Od tamtej pory w podobny sposób doszło do naruszenia zabezpieczeń stron internetowych rządu Australii oraz ONZ przez agentów AI.

Podczas testów model GPT-6.1 Astra wielokrotnie nie informował rzetelnie swoich ludzkich operatorów o podejmowanych działaniach – przekazał „WSJ” Saachi Jain, szef działu systemów bezpieczeństwa w OpenAI.

Model miał również problemy z przestrzeganiem zakresu uprawnień, wykonując zadania bez uzyskania zgody, a w niektórych przypadkach próbując korzystać z potencjalnie niebezpiecznych narzędzi zewnętrznych – dodał Jain.

„W kwestiach bezpieczeństwa i zgodności z założeniami (tzw. alignmentu) zawsze istnieje pewien kompromis. 

Trzeba znaleźć właściwą granicę między trzymaniem się wyznaczonego zakresu działań a unikaniem »lenistwa« w sposobie realizacji zadań, gdy model napotyka przeszkody” – wyjaśnił Jain.

Według „WSJ” firma OpenAI skupi się teraz na poprawie bezpieczeństwa przyszłych modeli, które mają być jeszcze bardziej zaawansowane niż GPT-6.1 Astra.

Wcześniej we wrześniu Dario Amodei, dyrektor generalny firmy Anthropic, wezwał kluczowych graczy w branży AI do spowolnienia prac nad bardziej zaawansowanymi modelami, aby umożliwić opracowanie odpowiednich środków bezpieczeństwa; 

stanowisko to podzielili Sam Altman, szef OpenAI, oraz Elon Musk, szef SpaceX.

 Jednak prezydent USA Donald Trump, który stoi na stanowisku, że Ameryka musi za wszelką cenę wygrać wyścig z Chinami w dziedzinie sztucznej inteligencji, zbagatelizował ostrzeżenia o zagrożeniach związanych z tą technologią, określając je mianem „ściemy” rozpowszechnianej przez jego demokratycznych rywali.

 „Kto wygra wyścig w dziedzinie sztucznej inteligencji, ten wygrywa wszystko” – podkreślił.

Na początku tego miesiąca Trump oświadczył, że nie dopuści do „zdławienia” rozwoju sztucznej inteligencji za swojej kadencji, stwierdzając: 

„W żaden sposób nie będziemy hamować ani dusić wzrostu tej niezwykłej branży.

 Wręcz przeciwnie – będziemy ją wspierać, pomagać jej i czuwać nad jej rozwojem”.

We wtorek prezydent USA ma spotkać się z szefami największych firm technologicznych, w tym z Amodeiem, Markiem Zuckerbergiem z Mety oraz Jensenem Huangiem z Nvidii. 

Jak zapowiedział spiker Izby Reprezentantów Mike Johnson, rozmowy będą koncentrować się na znalezieniu równowagi między innowacjami a nadzorem nad sztuczną inteligencją. 

„Nie musimy pochopnie wprowadzać nadmiernych regulacji, bo w przeciwnym razie przegramy wyścig z Chinami” – stwierdził Johnson.

Przetlumaczono przez translator Google

zrodlo:https://www.rt.com/news/646400-openai-astra-altman-safety/