Dwa mocarstwa aktualizują regulamin
Stany Zjednoczone i Chiny planowały na wrzesień pierwsze formalne rozmowy o sztucznej inteligencji za drugiej administracji Donalda Trumpa. Według źródeł znających przygotowania strony miały rozmawiać o ryzyku coraz potężniejszych modeli. To rozsądny pomysł. Dwie największe potęgi AI odkryły, że wyścig wymaga również infolinii dla uczestników, którzy nie chcą przez pomyłkę wygrać katastrofy.
Rozmowy nie oznaczają odprężenia. Waszyngton ogranicza Chinom dostęp do zaawansowanych układów i obawia się wykorzystania modeli do cyberataków, wojska oraz wpływu informacyjnego. Pekin inwestuje w krajowy sprzęt, wspiera otwarte modele i przedstawia amerykańskie restrykcje jako próbę utrzymania monopolu. Obie strony mówią o bezpieczeństwie. Każda podejrzewa, że bezpieczeństwo drugiej jest nazwą handlową przewagi.
Sam fakt utworzenia kanału ma wartość. Państwa mogą wyjaśniać incydenty, porównywać definicje i sygnalizować czerwone linie. Bez rozmowy każde nietypowe zachowanie systemu może zostać uznane za zaplanowaną operację przeciwnika. Z rozmową nadal może zostać tak uznane, lecz przynajmniej powstanie numer telefonu, pod którym dyplomata usłyszy starannie sformułowane zaprzeczenie.
Ryzyko bez wspólnego słownika
Najpierw trzeba ustalić, czym jest model graniczny, poważny incydent i niedopuszczalne zastosowanie. Parametry, moc obliczeniowa i wyniki testów nie tworzą jednej uniwersalnej granicy. Model może być bezpieczny w laboratorium, a ryzykowny po podłączeniu do narzędzi, danych lub systemu wojskowego. Regulacja próbuje opisać obiekt, który zmienia funkcje szybciej niż wersja robocza komunikatu końcowego.
USA mogą naciskać na ograniczenia dotyczące cyberoperacji, broni autonomicznej i kradzieży modeli. Chiny mogą domagać się rozmowy o kontroli eksportu chipów, dyskryminacji własnych firm i dostępie państw rozwijających się do technologii. Oba zestawy tematów są powiązane, lecz politycznie przedstawia się je inaczej. Waszyngton widzi zabezpieczenie. Pekin widzi bramkę licencyjną ustawioną przy wejściu do przyszłości.
Porozumienie nie musi od razu obejmować całego przemysłu. Może zacząć się od procedur zgłaszania poważnych incydentów, kontaktu kryzysowego, testów określonych zastosowań oraz zasady ludzkiej kontroli nad decyzjami o użyciu siły. Małe reguły są mniej efektowne niż globalny traktat, ale łatwiej sprawdzić, czy działają. W dyplomacji technologicznej skromny mechanizm wdrożony przez obie strony jest więcej wart niż wielka deklaracja zgodna głównie z typografią konferencji.
Firmy siedzą w pokoju obok
Państwa prowadzą negocjacje, lecz modele budują firmy i laboratoria. To one znają architekturę, wyniki testów oraz słabości zabezpieczeń. Mają też interes w ograniczaniu obowiązków, które spowolnią wdrożenia albo ujawnią tajemnice. Rządy potrzebują ich wiedzy, ale nie powinny mylić konsultacji technicznej z przekazaniem branży prawa do napisania własnego regulaminu.
Amerykańskie i chińskie przedsiębiorstwa funkcjonują w odmiennych systemach prawnych, finansowych i politycznych. W obu państwo potrafi jednak uznać technologię za zasób strategiczny. Firma może promować otwartość, dopóki nie pojawi się pytanie o przewagę wojskową, kontrolę eksportu lub bezpieczeństwo narodowe. Wtedy prezentacja o współpracy zyskuje slajd, którego nie pokazuje się klientom.
Rozmowy powinny uwzględniać niezależnych badaczy oraz przedstawicieli państw, które będą korzystać z modeli bez wpływu na ich projektowanie. Skutki błędów i koncentracji rynku nie zatrzymają się na granicy USA–Chiny. Jeśli dwa mocarstwa ustalą standard wyłącznie dla własnych interesów, reszta świata otrzyma zasady jako aktualizację warunków usługi. Można ją przeczytać, lecz przycisk odmowy pozostanie dekoracyjny.
Kontrola eksportu spotyka otwarty model
Najbardziej widoczna część rywalizacji dotyczy chipów i infrastruktury. Zaawansowane modele potrzebują ogromnej mocy obliczeniowej, dlatego kontrola dostępu do układów stała się narzędziem polityki zagranicznej. USA próbują spowalniać chińskie zdolności, a Chiny rozwijają lokalne alternatywy. Każde ograniczenie tworzy koszt. Tworzy też wyjątkowo czytelny plan inwestycyjny dla państwa objętego ograniczeniem.
Otwarte modele komplikują tę strategię. Wagi i kod mogą rozprzestrzeniać się szerzej niż fizyczny sprzęt, a ich użytkownicy dostosowują system do własnych zadań. Pekin przedstawia otwartość jako element globalnej współpracy. Waszyngton obawia się, że dostępny model może wspierać działania sprzeczne z jego interesem. Wolny przepływ wiedzy spotyka bezpieczeństwo narodowe, po czym obie strony pytają, kto pierwszy zamknął drzwi.
Rozsądna polityka powinna rozróżniać model, sprzęt i konkretne zastosowanie. Zakaz całej kategorii ze względu na pochodzenie jest prosty, ale może osłabiać badania i konkurencję. Brak kontroli ignoruje realne zagrożenia. Potrzebne są testy, progi ryzyka, obowiązki raportowania i sankcje związane z działaniem, nie wyłącznie flagą firmy. To trudniejsze do zmieszczenia w przemówieniu, ale łatwiejsze do obrony po pierwszym incydencie.
Dialog nie jest rozejmem
Wrześniowe spotkanie może skończyć się listą tematów, wspólną grupą roboczą albo ostrożnym zobowiązaniem do dalszych rozmów. Nie będzie traktatem kończącym wyścig. Żadne z mocarstw nie zamierza zrezygnować z przewagi w technologii wpływającej na gospodarkę, wojsko i informację. Dialog ma raczej ograniczyć ryzyko, że rywalizacja wymknie się poza intencje uczestników.
Sukces powinien być mierzony procedurami, nie liczbą przyjaznych przymiotników w komunikacie. Czy istnieje kontakt kryzysowy? Czy strony zgłoszą niebezpieczny incydent? Czy uzgodnią obszary wymagające ludzkiej decyzji? Czy eksperci spotkają się ponownie z mandatem do pracy? Bez tych elementów rozmowa będzie fotografią dwóch delegacji stojących obok przyszłości.
Równie istotna będzie możliwość sprawdzenia zobowiązań bez ujawniania najpilniej chronionych technologii. Audyty, wspólne scenariusze testowe i raporty o incydentach mogą budować minimum zaufania. Pełna przejrzystość jest nierealna, całkowita tajemnica bezużyteczna. Dyplomaci muszą znaleźć środek, w którym obie strony pokażą wystarczająco dużo, by ograniczyć ryzyko, i wystarczająco mało, by nie zostać oskarżone o przekazanie przewagi.
USA i Chiny usiądą przy stole, aby omawiać systemy zdolne generować język, kod i strategie. Sam algorytm nie otrzyma miejsca ani prawa głosu. To dobra wiadomość: odpowiedzialność pozostanie po stronie ludzi. Mniej wygodna wiadomość jest taka, że ludzie nadal muszą uzgodnić, gdzie kończy się innowacja, a zaczyna ryzyko, którego żadna ze stron nie potrafi już zatrzymać samodzielnie.
