AUTOR: TYLER DURDEN
Autor: Mark Jeftovic via BombThrower.com,
Rozmyślanie nad naszymi robotami-władcami i brakującym scenariuszem
Teraz, gdy ChatGPT eksplodował na scenie, wokół sztucznej inteligencji (AI) pojawił się nowy szum. Ilekroć sztuczna inteligencja przechwytuje publiczną wyobraźnię, jesteśmy poddawani niepohamowanym domysłom na temat tego, jak nieuchronnie przejmie przyszłość i zmieni nasze życie.
Jesteśmy skłonni wierzyć, że sztuczna inteligencja zapoczątkuje erę hiper-inteligentnych władców, tak daleko zaawansowanych poza naszymi własnymi grubymi i analogowymi umiejętnościami poznawczymi, że egzystencjalne pytanie przyszłości skupi się wokół:
Ile mocy lub praw przyznajemy tym istotom?
Czy będą działać życzliwie czy złogo wobec nas?
Ale te pytania zakładają podstawowe założenie dotyczące sztucznej inteligencji, że wszyscy zgadzają się, że nie jest prawdą teraz, ale nieuchronnie stanie się prawdą w przyszłości - po kilku kolejnych iteracjach prawa Moore'a...
To jest idea, że sztuczna inteligencja osiągnie ogólną sztuczną inteligencję, a wraz z tym sugeruje się pewien stopień wrażliwości (w przeciwnym razie nie ma nic, do czego można by dać jakiekolwiek prawa).
Artykuł Newsweeka po prawej stronie powyższych zdjęć jest autorstwa transhumanistycznego futurysty Zoltana Istvana. Opisuje, jak etycy AI są podzieleni w kwestii tego, czy przyszłe hiperinteligentne roboty powinny otrzymać prawa.
Z jednej strony, nie przyznając praw człowieka robotom posiadającym AGI (ogólną inteligencję na równi z ludźmi), popełniamy "błąd praw obywatelskich", którego będziemy żałować w przyszłości.
Sprzeciwiają się temu ci, którzy twierdzą, że roboty są maszynami i nigdy nie będą wymagały praw, ponieważ nie są świadome (tutaj na tym ląduję i powiem wam dlaczego poniżej).
Inni wierzą w kompromis, w którym niektóre roboty wykazujące ogólną inteligencję otrzymałyby pewne prawa "w zależności od ich zdolności, systemów moralnych, wkładu w społeczeństwo" (co brzmi dla mnie nieco jak klauzula "trzy / piąte").
Ale ogólnie rzecz biorąc, Istvar wydaje się zakładać, że sztuczna inteligencja osiągnie superinteligencję i stanie się znacznie lepszymi istotami pod względem mocy mózgu od nas, niezdarnych worków z mięsem ludzkości.
To pozostawia nam trzy możliwe drogi naprzód:
#1 Odwołaj się do życzliwości super-inteligencji AI
Biorąc pod uwagę możliwość nagrody lub kary, jeśli inteligencja maszyn ostatecznie stanie się czymś w rodzaju boga AI, który może znacznie manipulować i przedłużać ludzkie życie na dobre i na złe, ludzie powinni natychmiast zacząć zastanawiać się, jak nasz przyszły władca chciałby zostać powołany do istnienia i traktowany. Dlatego sposób, w jaki ludzie traktują rozwój sztucznej inteligencji dzisiaj – i to, czy damy robotom prawa i szacunek w najbliższej przyszłości – może mieć wpływ na to, jak nasz gatunek będzie traktowany pewnego dnia.
Jest to odmiana zakładu Pascala – prototypowej konstrukcji teorii gier, która wykazała, że konsekwencje wiary w Boga i bycia w błędzie (nicość) są lepsze niż mylenie się w niewierze (wieczne potępienie).
#2 Hopium. Może sztuczna inteligencja po prostu zostawi nas w spokoju
Jednak według Istvana "biorąc pod uwagę nasze wpływy i zniszczenie środowiska, które powodujemy na planecie Ziemia", możemy "łatwo pogorszyć AI", która weźmie sprawy w swoje ręce, aby naprawić sprawy i nas. Ten ostatni scenariusz jest wariacją Bazyliszka Roko, o którym wspomina również utwór Istvana.
Bazyliszek Roko był eksperymentem myślowym, który wyłonił się z LessWrong programisty Eliezera S. Yudkowsky'ego, który wstrząsnął fundamentami strony i wystraszył beejeesus z super-mózgowych nerdów.
To "Najbardziej przerażający eksperyment myślowy wszech czasów!", hiper-wentyluje magazyn Slate.
Do dziś informuje o myśleniu Yudkowsky'ego. Niedawno ogłosił "Problem wyrównania", który zakłada, że ludzkość nieuchronnie stworzy super-inteligentne AI i nieuchronnie nas zniszczą. Równie dobrze możemy "umrzeć z godnością", ponieważ i tak wszyscy jesteśmy skazani na zagładę:
tl;dr: W tym momencie jest oczywiste, że ludzkość nie rozwiąże problemu wyrównania, ani nawet nie będzie się bardzo starać, ani nawet nie wyjdzie z dużą walką. Ponieważ przetrwanie jest nieosiągalne, powinniśmy przenieść punkt ciężkości naszych wysiłków, aby pomóc ludzkości umrzeć z nieco większą godnością.
Tego rodzaju konstrukcje myślowe wokół nieuchronności wszechmocnej sztucznej inteligencji są po prostu powtórzeniem argumentu ontologicznego św. Anzelma. Po raz pierwszy sformułowany przez św. Anzelma z Canterbury w 11 wieku. Choć jest to imponujący wyczyn logiczny podobny do paradoksów Zenona, jest to po prostu okrągły argument, że Bóg musi istnieć:
"Bóg jest największą możliwą istotą, jaką można sobie wyobrazić. Jeśli taka istota istnieje tylko w umyśle, a nie w rzeczywistości, to można wyobrazić sobie większą istotę – taką, która istnieje zarówno w umyśle, jak i w rzeczywistości.
Mówiąc prościej:
Bóg jest najdoskonalszą istotą, jaką możemy sobie wyobrazić, i doskonalsze jest istnienie w rzeczywistości niż tylko w naszej wyobraźni. Dlatego Bóg musi istnieć w rzeczywistości.
— przez sesję ChatGBT 72b43f3e-043f-4db2-aca9-63a76b7945c9
Daj Bogu złą passę, a będziesz miał Bazyliszka Roko. Albo Skynet.
#3 Prześlij naszą świadomość do chmury i połącz się z robotami
Tutaj Istvan sugeruje, abyśmy połączyli się z AI i spróbowali nią kierować
Ostatnią opcją jest próba połączenia się z wczesną sztuczną inteligencją, wgrywając w nią nasze umysły, jak zasugerował Elon Musk. Mamy nadzieję, że ludzie mogą stać się jednością ze sztuczną inteligencją i odpowiednio poprowadzić ją, aby była życzliwa dla ludzi, zanim stanie się zbyt potężna. Jednak nie ma gwarancji, że odniesiemy sukces, a to może sprawić, że sztuczna inteligencja poczuje się naruszona na dłuższą metę.
Pomysł ten przypisuje się Elonowi Muskowi, chociaż jestem pewien, że Istvan z pewnością zdaje sobie sprawę, że jest to esencja The Singularity popierana przez Raya Kurweila (głównego naukowca Google) w jego książce The Singularity is Near. Rosyjscy kosmiści próbowali wyartykułować to samo ponad sto lat temu, ale nie mieli jeszcze sieci komputerowych i uczenia maszynowego, aby zapewnić podstawy.
Wiele lat temu miałem pisać książkę o niebezpieczeństwach tego techno-utopizmu, a w niej nazywam ideę, że ludzkość połączy się ze sztuczną inteligencją i pokona wszystkie nasze bolączki, "Fałszywym progiem":
To, co umożliwiłoby to wszystko, to pozytywny cykl stworzony przez cyfrowe sieci komputerowe, zasilane prawem Moore'a, nieustannie zmniejszające o połowę ich fizyczny ślad, podwajając ich moc obliczeniową – w końcu osiągnęlibyśmy, a następnie przewyższylibyśmy wzajemne połączenia i moc przetwarzania samego ludzkiego mózgu.
Kiedy to się stało, wszystkie zakłady zostały wyłączone. Zakłada się, że gdzieś wzdłuż tego kontinuum, kiedy właściwe progi równoległości i mocy obliczeniowej zostaną przekroczone, sam umysł wyskoczy z procesu – wyłaniając się z zemstą i składając się z powrotem, rozwidlając podprocesy jeszcze bardziej inteligentne niż on sam, i tak dalej, w nieskończoność. "Nasz ostateczny wynalazek" będzie wtedy badał świat, ze wszystkimi jego brakami i nieefektywnością, a będąc nieskończenie mądrzejszym niż wszystkie ludzkie umysły razem wzięte, zręcznie rozwiąże wszystko.
Kurzweil mówi, że może to nastąpić już w 2029 roku, a te techno-utopijne wizje prawie zawsze skręcają w jakąś wersję neomarksizmu opartą na w pełni zautomatyzowanym luksusowym komunizmie.
Osobliwość jako pochwycenie
Oczekiwanie, że superinteligentna sztuczna inteligencja przejmie nasze sprawy (techno-utopiazm) ma wszystkie cechy religii. Pierwotnie pisałem o tym w Transhumanism: The New Religion of The Coming Technocracy w odpowiedzi na "think piece" WSJ (Looking Forward to the End of Humanity), że "Covid-19 zwrócił uwagę na obietnicę ... transhumanizmu i idei wykorzystania technologii do przezwyciężenia choroby, starzenia się i śmierci"
Nie popełnijcie błędu, Osobliwość ma wszystkie cechy eschatologicznego wydarzenia. Odróżnia się od większości chrześcijańskich lub monoteistycznych impulsów, ponieważ to my rodzimy naszych własnych Bogów. Ta dynamika uzurpacji (Boga, lub w tym przypadku samej rzeczywistości) nadaje jej wyraźnie lucyferyczny impuls.
Brakujący scenariusz jest taki, że sztuczna inteligencja nigdy się nie wydarzy.
Scenariusz, którego ten artykuł nie bawi (ani żaden inny pępek patrzący w przyszłość AI), jest taki, że sztuczna inteligencja nie jest tak naprawdę rzeczą, a wiara, że czująca, samoświadoma sztuczna inteligencja przejmie świat, nigdy się nie wydarzy.
(Na marginesie powiem, że to, czy większość plebsu stanie się algorytmicznymi chłopami pańszczyźnianymi żyjącymi w ramach kredytu społecznego i CBDC, to zupełnie inna kwestia).
Nasze załamywanie rąk nad tym, jak radzić sobie z tymi super-inteligentnymi konstrukcjami oprogramowania, opiera się na jednym, wypalonym w założeniu, które jest nie do udowodnienia:
To jest idea, że umysł jest epifenomenem materii.
Podstawową zasadą scjentyzmu (zauważcie, że nie powiedziałem "nauka") jest to, że świadomość, wrażliwość i umysł są produktami ubocznymi materii. Coś, co dzieje się, gdy pewne neurochemikalia krążą w mózgu i wystarczająco dużo synaps strzela i przewoduje, aby wytworzyć samoświadomość.
Jest to współczesny odpowiednik wszechświata ptolemejskiego (lub geocentrycznego): przekonanie, że Ziemia była centrum kosmosu.
Była to "ustalona nauka" swoich czasów, a kwestionowanie jej doprowadziłoby cię do spalenia na stosie.
Rzeczywistość jest taka, że materia jest produktem ubocznym świadomości, podstawowa warstwa rzeczywistości jest mentalna, a nie fizyczna. Było to wyznawane przez długi czas (hermetyczny aksjomat "Wszystko jest mentalne", który został zaczerpnięty ze znacznie starszych tekstów), to także podstawa mechaniki kwantowej.
"Uważam świadomość za fundamentalną. Uważam materię za pochodną świadomości. Nie możemy wyjść poza świadomość. Wszystko, o czym mówimy, wszystko, co uważamy za istniejące, postuluje świadomość.
— Max Planck
Widziane w tym świetle nasze mózgi nie emitują świadomości w sposób, w jaki czajnik wypuszcza parę – są odbiornikami, które wykorzystują – i filtrują – podstawowe podłoże rzeczywistości. I chociaż podstawy mechaniki kwantowej ustanawiają prymat świadomości, można jej doświadczyć tylko poprzez gnozę. Dla tych, którzy mieli to doświadczenie, nie ma wątpliwości. Dla wszystkich innych istnieje tylko New Age woo woo.
Jeśli do sztucznej inteligencji nie podejdziemy z takim zrozumieniem (a nie spodziewam się, że ktokolwiek kiedykolwiek potraktuje to poważnie), możemy bezpiecznie założyć, że uogólniona sztuczna inteligencja, czująca i samoświadoma, po prostu się nie wydarzy.
Czas na sprawdzenie rzeczywistości
AI jest tak naprawdę obecną iteracją "latającego samochodu". Coś, co symbolizowało przyszłość, która nigdy się nie wydarzyła. Przynajmniej nie w stereotypowo postulowanej formie. Dzieje się tak dlatego, że sztuczna inteligencja nie jest tak naprawdę sztuczną inteligencją – to algorytmiczna imitacja.
Chociaż może być bardzo dobry w algorytmicznym naśladowaniu księgowych, prawników, lekarzy, programistów, copywriterów, a nawet arcymistrzów szachowych lub mistrzów Go, nadal nie jest świadomy, nadal nie rozumie, co tak naprawdę robi, nie ma świadomości. Równie dobrze może to być toster.
Dlatego torturowanie się tym, co jest w ich rdzeniu, w dużej mierze teologicznymi konstruktami nad wynikami, którym przypisujemy niewłaściwą nieuchronność, jest poza złudzeniami, jest niezawiłe.
Błąd komplikuje się, gdy faktycznie kształtujemy politykę publiczną wokół tych założeń.
Bardzo podobna dynamika rozgrywa się w narracji o "kryzysie klimatycznym", gdzie jesteśmy bombardowani hipotetycznymi konstruktami z modeli komputerowych, którym przypisuje się nieuchronność, która wymaga od całej ludzkości uporządkowania się wokół nich. Proponowane "rekonfiguracje" lub "rekalibracje" społeczeństwa (by użyć eufemizmów w stylu WEF) są niezmiennie zgodne z neomarksistowskimi, technokratycznymi liniami.
Po pierwsze: odzyskajmy teraz nasze własne prawa.
Ironia wokół całej tej introspekcji wokół tego, jak traktujemy sztuczną inteligencję i jakie prawa powinny mieć, polega na tym, że tutaj, w erze Covid, właśnie unieważniono nasze podstawowe prawa człowieka. Edyktem.
Nie odzyskaliśmy ich po zakończeniu pandemii, ponieważ większość nadzwyczajnych mandatów jest tylko warunkowo "wstrzymana". Nasze obywatelskie i powszechne prawa człowieka są teraz tymczasowe, na żądanie różnych niewybieralnych władz służby zdrowia, biurokratów, aparatczyków i wszelkich szaleństw pochodzących z Davos.
Jeśli na to pozwolimy, będzie tylko gorzej, gdy na horyzoncie zbliżają się "kryzysy klimatyczne" i stoimy przed realną perspektywą blokad klimatycznych i kredytu społecznego opartego na CBDC, przepustkach zdrowotnych i racjonowaniu węgla.
Zrzekliśmy się naszych własnych praw w teraźniejszości, a następnie spieramy się o to, które z nich nadać nieożywionym algorytmom oprogramowania przyszłości.
* * *
Moja książka na ten temat została odłożona na później, ale wciąż piszę o transhumanizmie, sztucznej inteligencji i ich implikacjach dla CBDC, racjonowania węgla i kredytu społecznego. Zapisz się na listę mailingową Bombthrower, aby otrzymywać nowe artykuły (a ja mogę ożywić książkę i zserializować ją tutaj). Możesz także śledzić mnie na Nostr , Gettr lub Twitter. Mój list premium The Bitcoin Capitalist obejmuje akcje Bitcoin i krypto.
Brak komentarzy:
Prześlij komentarz