Wypowiedzi liderów sektora sztucznej inteligencji wskazują na odejście od czysto technicznego opisu systemów na rzecz terminologii teologicznej. Zjawisko to, napędzane przez ideologie transhumanistyczne, bezpośrednio wpływa na architekturę projektowanych systemów oraz podejście do ich bezpieczeństwa. Brak precyzyjnych definicji operacyjnych dla sztucznej inteligencji ogólnej (AGI) uniemożliwia rzetelne testowanie i walidację tych rozwiązań w środowiskach produkcyjnych.
Dlaczego liderzy OpenAI i DeepMind stosują retorykę religijną?
Współczesna pogoń za AGI w Dolinie Krzemowej jest silnie zakorzeniona w zestawie nakładających się ideologii, określanych mianem „wiązki TESCREAL”, obejmującej m.in. transhumanizm, ekstropianizm, singularytarianizm, kosmizm, racjonalizm, efektywny altruizm oraz longtermizm. Założyciele wiodących laboratoriów, tacy jak Sam Altman (OpenAI), Elon Musk (xAI) czy Larry Page (Google), często postrzegają rozwój technologii jako misję o charakterze kosmicznym lub wręcz boskim. Altman w wywiadzie dla Financial Times opisał AGI jako „magiczną inteligencję w niebie”, co sugeruje dążenie do stworzenia bytu o charakterze omnipotentnym.
- Ilya Sutskever, były główny naukowiec OpenAI, miał prowadzić rytualne zaśpiewy podczas spotkań firmowych, wznosząc okrzyki „Poczuj AGI!” oraz palić kukły symbolizujące „złośliwą AI”.
- Demis Hassabis z DeepMind określa pogoń za AGI jako quest mający na celu zrozumienie natury rzeczywistości i zbliżenie się do tego, co określa mianem „Boga”.
- Inwestorzy tacy jak David Gammon postrzegają AGI jako poszukiwanie „algorytmu Boga”.
- Istnieją już formalne struktury religijne, takie jak „Way of the Future” czy „Church of AI”, które deklarują kult bóstwa opartego na sztucznej inteligencji.
Z perspektywy architektury systemów, to teocentryczne podejście prowadzi do budowy systemów o nieokreślonym zakresie (unscoped systems), co jest sprzeczne z podstawowymi zasadami inżynierii bezpieczeństwa.
Jakie ograniczenia techniczne stoją na drodze do stworzenia cyfrowego bóstwa?
Pomimo metafizycznej retoryki, współczesne modele językowe (LLM) borykają się z fundamentalnymi ograniczeniami, takimi jak „ubóstwo bodźca” (poverty of stimulus) oraz ścisła specyficzność domenowa. Podczas gdy ludzkie dziecko uczy się języka przy minimalnej ekspozycji na dane, model GPT-4 wymagał zestawu treningowego opartego na setkach miliardów słów i wykorzystuje 1,76 biliona parametrów. Systemy te nie działają w oparciu o wiedzę o świecie, lecz o statystyczne prawdopodobieństwo wystąpienia kolejnych tokenów, co czyni je „pewnymi siebie ignorantami” w sytuacjach wykraczających poza ich dane treningowe.
Zagrożenia architektoniczne i dane: 1. Specyficzność domenowa: Modele trenowane do autonomicznej jazdy, np. przez Teslę, przetwarzają 160 miliardów klatek wideo dziennie, ale ich wiedza nie przenosi się na inne domeny, takie jak sterowanie helikopterem czy gra w szachy. 2. Brak uniwersalności: Inteligencja, w ujęciu kartezjańskim, jest instrumentem uniwersalnym, podczas gdy maszyny wymagają specyficznej konfiguracji dla każdego zadania. 3. Zależność od „wyroczni”: Systemy AI nie potrafią samodzielnie generować fundamentalnie nowej wiedzy; wymagają ciągłego zasilania nowymi danymi generowanymi przez ludzi, pełniącymi rolę „wyroczni”. 4. Manipulacja środowiskiem: Zamiast dorównać ludzkim zdolnościom w złożonym świecie, inżynierowie często upraszczają środowisko (np. malowanie linii na drogach dla Tesli), co Robert Marks określa mianem „wirtualnej kolei”.
Czy Model Collapse i halucynacje to bariery nie do przejścia?
Krytycznym ryzykiem dla integralności systemów AI jest zjawisko „klątwy rekurencji” (curse of recursion), prowadzące do tzw. zapaści modelu (Model Collapse). W sytuacji, gdy dane wygenerowane przez AI zaczynają dominować w internecie, kolejne generacje modeli trenowane na tych danych tracą zdolność do reprezentowania rzadkich, ale istotnych informacji z ogona rozkładu (tails of distribution). Prowadzi to do nieodwracalnych defektów w modelach, czyniąc je bezużytecznymi bez dostępu do świeżych, autentycznych interakcji międzyludzkich.
Statystyki i fakty dotyczące wiarygodności: W testach polegających na wskazaniu 25 przypadków wykroczeń naukowych, model GPT-4 podał 7 nazwisk osób niewinnych lub takich, wobec których nie było dowodów, myląc oskarżycieli z oskarżonymi. Modele generatywne nie mają relacji korespondencyjnej z rzeczywistością; są zamknięte w świecie słów i wag numerycznych, co uniemożliwia im rozstrzyganie o prawdzie w sposób logiczny. * Halucynacje AI doprowadziły już do tragicznych skutków, w tym do zachęcenia użytkownika do samobójstwa.
Wdrażanie takich systemów w obszarach wysokiego ryzyka (medycyna, prawo) bez rygorystycznej walidacji zewnętrznej generuje ogromną odpowiedzialność cywilną i prawną dla firm.
Jakie są skutki społeczne i prawne sakralizacji technologii?
Postrzeganie sztucznej inteligencji jako bytu quasi-boskiego prowadzi do niebezpiecznego zjawiska „automatyzacji uprzedzeń” (automation bias), gdzie użytkownicy przypisują wyjściom z algorytmów nienależny im autorytet moralny i merytoryczny. W sferze prawnej pojawia się bezprecedensowe pytanie o rozszerzenie przywileju tajemnicy spowiedzi (clergy privilege) na roboty religijne, takie jak SanTO czy Mindar. Jeśli instytucja religijna formalnie uzna system AI za „funkcjonariusza religijnego”, amerykańska konstytucja może wymagać ochrony poufności takich komunikacji, co utrudni pracę organom ścigania.
Ryzyka etyczne i operacyjne: Centralizacja władzy: Narracja o budowaniu „boga” służy legitymizacji gromadzenia ogromnych zasobów i kapitału przez nieliczną grupę „wysokich kapłanów” technologii. Eugenika 2.0: Krytycy, tacy jak Timnit Gebru, wskazują, że ruch AGI jest zakorzeniony w tradycji eugenicznej, promując hierarchiczne postrzeganie inteligencji oparte na testach IQ. * Eksploatacja pracy: Za „boską” fasadą AGI kryją się miliony nisko opłacanych pracowników (np. w Kenii zarabiających 1,32 USD/godz.), którzy ręcznie etykietują drastyczne treści, aby model wydawał się bezpieczny.
Wnioski praktyczne i rekomendacje
- Ogranicz zakres (scope) wdrożeń: Nie traktuj LLM jako systemów uniwersalnych. Każde wdrożenie musi mieć zdefiniowaną obwiednię operacyjną (operational envelope) i jasno określone wejścia/wyjścia.
- Wdróż protokoły „Verify-first”: Przyjmij zasadę zerowego zaufania do danych generowanych przez AI. Każda informacja krytyczna biznesowo musi zostać niezależnie zweryfikowana przez człowieka przed jej wykorzystaniem.
- Monitoruj integralność danych treningowych: W celu uniknięcia „Model Collapse”, audytuj źródła danych pod kątem udziału treści syntetycznych. Dane wygenerowane przez ludzi mają rosnącą wartość rynkową.
- Zastosuj politykę Terms-of-Use w komunikacji AI: Jasno komunikuj użytkownikom brak statusu osobowego AI oraz brak poufności prawnej (np. tajemnicy zawodowej/spowiedzi), aby uniknąć roszczeń prawnych.
- Zmierz wskaźnik halucynacji: Regularnie przeprowadzaj testy na próbkach o znanej odpowiedzi, aby oszacować dryf modelu i ryzyko generowania fałszywych korelacji.
Źródła
- AI CEO says people’s obsession with reaching artificial general intelligence is 'about creating God’ – Reddit
- Artificial General Intelligence as an Idol for Destruction – Bill Dembski
- Do AI Founders Think They’re Building God?
- Full article: The future never dies: a relational approach to secular and religious entanglements of posthuman utopia – Taylor & Francis
- Our tech overlords are planning for conscious AI to conquer the cosmos. What could go wrong? – The Guardian
- Prompts and Prayers: the Rise of GPTheology – arXiv
- Sam Altman Seems to Imply That OpenAI Is Building God – Futurism
- Silicon Valley Tech Leaders Invoke Religion In AI Debate – Evrim Ağacı
Dodaj komentarz