Sebastian Mallaby wskazuje na błędy w zachodniej percepcji chińskiego podejścia do AI safety, argumentując za koniecznością współpracy na wzór traktatów nuklearnych. Brak znaczącej przewagi technologicznej USA sprawia, że priorytetem staje się kontrola modeli open-weight przed dostępem organizacji przestępczych. Stabilność globalnego ekosystemu IT wymaga dialogu z Pekinem w celu mitygacji ryzyk związanych z bioterroryzmem i cyberatakami.
Błędne założenia administracji Bidena wobec chińskiego sektora technologicznego
Zachodnie elity polityczne, w tym eksperci administracji Bidena, systematycznie ignorowali gotowość Chin do dialogu o bezpieczeństwie sztucznej inteligencji, zakładając brak zainteresowania Pekinu tym obszarem. Wizyty studyjne w podmiotach takich jak Huawei, Hikvision czy Ant Group oraz rozmowy z przedstawicielami chińskiej akademii wykazują jednak, że kwestie AI safety są tam podnoszone autonomicznie i bez zachęty z zewnątrz. Podczas gdy na Zachodzie technologia budzi ambiwalencję wynikającą z doświadczeń historycznych, takich jak kryzys kubański, w Chinach technologia jest fundamentem 25-letniego wzrostu gospodarczego, a pojęcie katastrofy rezerwuje się dla zdarzeń o charakterze politycznym.
Kluczowe podmioty zaangażowane w dialog o AI w Chinach: Huawei – lider infrastruktury i rozwoju modeli AI. Ant Group – sektor fintech i implementacja algorytmów AI. Hikvision – specjalizacja w systemach wizyjnych i analizie danych. Chińska akademia – ośrodki badawcze definiujące standardy bezpieczeństwa.
Wspólne interesy w obszarze cyberbezpieczeństwa i obrony biologicznej
Pragmatyzm chińskich regulatorów wynika z obawy przed utratą kontroli nad stabilnością krajowej infrastruktury cyfrowej oraz zagrożeniami asymetrycznymi. Chiny dążą do uniemożliwienia hakerom wykorzystywania narzędzi AI do paraliżowania internetu oraz blokowania dostępu do instrukcji tworzenia broni biologicznej i chemicznej przez podmioty niepaństwowe. Istnieje zbieżność celów między mocarstwami w zakresie zapobiegania proliferacji narzędzi, które mogłyby zostać wykorzystane przez terrorystów lub grupy przestępcze do szantażowania państw.
W celu optymalizacji procesów kontrolnych należy rozważyć: 1. Monitorowanie modeli open-weight: Ograniczenie możliwości swobodnego pobierania wag modeli o najwyższych parametrach przez niezweryfikowane podmioty. 2. Standaryzację inspekcji: Wdrożenie protokołów weryfikacji wykorzystania zasobów obliczeniowych na wzór kontroli materiałów wzbogaconych w energetyce jądrowej.
Architektura bezpieczeństwa na wzór traktatów nuklearnych z okresu zimnej wojny
Historyczny model zarządzania ryzykiem nuklearnym opierał się na rozróżnieniu między stabilnym odstraszaniem mocarstw a niekontrolowanym rozprzestrzenianiem broni wśród mniejszych, nieprzewidywalnych graczy. W 1956 roku powołano Międzynarodową Agencję Energii Atomowej (IAEA), a w 1968 roku Traktat o Nierozprzestrzenianiu Broni Jądrowej, który wymuszał inspekcje w zamian za dostęp do technologii cywilnych. Analogiczny schemat dla AI zakłada, że mocarstwa utrzymają parytet technologiczny, jednocześnie wspólnie blokując dostęp do najbardziej niebezpiecznych modeli podmiotom trzecim. Negocjacje z Chinami są możliwe, co potwierdzają historyczne precedensy rozmów z Nikitą Chruszczowem, mimo jego agresywnej retoryki wobec Zachodu.
| Cecha | Model Nuklearny (IAEA/NPT) | Proponowany Model AI |
|---|---|---|
| Główne ryzyko | Proliferacja do „niebezpiecznych graczy” | Modele open-weight w rękach terrorystów |
| Mechanizm kontroli | Inspekcje materiałów wzbogaconych | Nadzór nad dystrybucją wag modeli |
| Cel współpracy | Zapobieganie wojnie i bioterroryzmowi | Ochrona internetu i infrastruktury |
Efektywność kontroli eksportu czipów a rzeczywista przewaga w modelach AI
Wprowadzone w październiku 2022 roku restrykcje eksportowe na zaawansowane układy scalone nie przyniosły spodziewanej, miażdżącej przewagi strategicznej USA nad Chinami. Analizy wykazują, że przewaga amerykańskich modeli granicznych (frontier models) nad chińskimi odpowiednikami wynosi obecnie zaledwie osiem miesięcy. Biorąc pod uwagę tempo, w jakim modele są przekształcane w gotowe aplikacje użytkowe, dystans ten może być w praktyce jeszcze mniejszy lub nieistniejący. Dalsze utrzymywanie sztywnych barier sprzętowych może utrudniać kluczowy dialog w obszarze bezpieczeństwa, co sugeruje konieczność priorytetyzacji współpracy nad restrykcjami, jeśli te ostatnie nie dostarczają wymiernych korzyści strategicznych.
Wnioski praktyczne i rekomendacje
- Zdywersyfikuj strategię bezpieczeństwa AI, odchodząc od wyłącznego polegania na blokadach sprzętowych na rzecz monitorowania procesów dystrybucji modeli o otwartych wagach.
- Uruchom kanały komunikacji technicznej z chińskimi partnerami w celu wymiany wzorców zagrożeń dotyczących bioterroryzmu i ataków na infrastrukturę krytyczną, gdzie interesy obu stron są zbieżne.
- Weryfikuj realną przewagę technologiczną w projektach AI, uwzględniając fakt, że opóźnienie Chin w stosunku do USA wynosi jedynie osiem miesięcy i szybko maleje w warstwie aplikacyjnej.
- Przygotuj architekturę systemową na wypadek konieczności dostosowania się do przyszłych, międzynarodowych standardów inspekcji i certyfikacji modeli AI, wzorowanych na traktatach o nierozprzestrzenianiu broni.
- Skonfiguruj procesy audytu wewnątrz organizacji, aby identyfikować ryzyka związane z wykorzystaniem modeli open-source, które mogą zostać zainfekowane lub zmodyfikowane przez grupy przestępcze.
Dodaj komentarz