"Mamy mniej niż dwa lata, zanim sztuczna inteligencja stanie się problemem bezpieczeństwa, którego nie możemy już kontrolować, mówi MP"
Pisząc w Izbie w zeszłym tygodniu, członek parlamentu z Bournemouth East Tobias Ellwood powiedział:
"Kiedy sterowany przez sztuczną inteligencję bezzałogowy statek powietrzny "zabił" swojego ludzkiego przewodnika w symulowanym teście, eliminując operatora za to, że ośmielił się ingerować w cele misji, powinniśmy się martwić.
"Ale kiedy minister bezpieczeństwa Tom Tugendhat (rzadki okrągły kołek w okrągłym otworze) ostrzega nas, że sztuczna inteligencja porusza się zbyt szybko, aby nawet "najlepsi urzędnicy" w parlamencie mogli regulować - Westminster, mamy problem.
Mamy mniej niż dwa lata, zanim sztuczna inteligencja stanie się problemem bezpieczeństwa, którego nie możemy już kontrolować, powiedział Ellwood. Sztuczna inteligencja jest ostatecznym mnożnikiem siły zdolnym do całkowitego przekształcenia zasad wojny.
Uczenie maszynowe i autonomia wkrótce zmienią egzystencjalnie pole bitwy, a ten, kto dotrze tam pierwszy, będzie miał krytyczną przewagę.
W walce wojennej chodzi o śmiertelność – jak i kiedy poszczególne komponenty wojskowe są zorganizowane, aby zmaksymalizować koncentrację siły w celu pokonania przeciwnika. Usuwając człowieka zarówno z obsługi tych komponentów, jak i procesu decyzyjnego, wydajność wzrośnie wykładniczo.
AI usunie "mgłę wojny". Masa danych dotyczących mocnych i słabych stron przeciwnika oraz intencji w przeciwieństwie do indywidualnych dyspozycji zostanie natychmiast oceniona. Wahanie, ludzki błąd i błędne bohaterstwo zostaną usunięte z dowodzenia i kontroli. Wykorzystanie roju systemów bezzałogowych pozwoli na obliczenie natychmiastowych inteligentnych "poświęceń", których czas może być krytyczny dla wygrania bitwy.
Jeśli zlecimy podejmowanie decyzji maszynie zdolnej do uczenia się podczas walki, wówczas ważne godziny zostaną zaoszczędzone, ponieważ rozkazy potwierdzające nie będą już przekazywane w górę i w dół łańcucha dowodzenia.
Nawet w szarej strefie dezinformacja na dużą skalę może być aktywnie propagowana w Internecie znacznie skuteczniej. Sztuczna inteligencja może natychmiast monitorować i dostosowywać swój komunikat, aby zmaksymalizować niezgodę polityczną, nawet do tego stopnia, że docelowe społeczności miałyby trudności z ustaleniem, co jest prawdą.
Co się stanie, jeśli prywatne korporacje i rządy projektujące i kontrolujące sztuczną inteligencję wykorzystają ją nie do wojen między narodami lub do obrony niewinnych obywateli, ale zamiast tego przeciwko bezbronnym obywatelom, aby realizować globalny program?
Zgadzamy się z panem Ellwoodem, kiedy powiedział: "pod każdym względem nasz świat staje się bardziej niebezpieczny, a nie mniej" – choć być może nie do końca z tych samych powodów. Jeśli chodzi o drony, być może nadszedł czas, aby obywatele przydali się z procą.
Brak komentarzy:
Prześlij komentarz