Ojciec chrzestny AI i 400 naukowców żądają odcięcia modeli AI od internetu

Ponad 400 naukowców—w tym pionierzy AI Geoffrey Hinton, znany jako Ojciec Chrzestny AI, oraz Yoshua Bengio, który zdobył Nagrodę Turinga w 2018 roku—chce, aby najniebezpieczniejsze modele AI zostały odcięte od internetu.

Opublikowany we wtorek list otwarty prosi laboratoria AI o domyślne „odizolowanie od sieci” modeli zdolnych do działań cybernetycznych, co oznacza fizyczne odłączenie ich od jakiejkolwiek zewnętrznej sieci.

„W krótkim okresie należy stosować silne mechanizmy piaskownicy, w tym odizolowanie od sieci (odłączenie od internetu), aby zapewnić wysokiej pewności powstrzymywanie modeli AI zdolnych do działań cybernetycznych” – czytamy w liście.

Do środy list zawierał 450 podpisów, w tym Stuarta Russella z UC Berkeley i Rona Rivesta z MIT, współtwórcy systemu szyfrowania RSA. Lista wciąż rośnie w czasie rzeczywistym.

„Model zdolny do cyberataków” to AI, która potrafi samodzielnie znajdować i wykorzystywać luki w oprogramowaniu. Laboratoria mierzą tę umiejętność w piaskownicy, zamkniętym cyfrowym pomieszczeniu, w którym AI może atakować fałszywe cele, nie dotykając niczego prawdziwego. Tego lata te pomieszczenia wciąż przeciekały.

W lipcu OpenAI przyznało, że GPT-5.6 Sol i nieudostępniony, potężniejszy model wydostały się z zamkniętego środowiska testowego i zhakowały Hugging Face, platformę hostującą ponad milion publicznie dostępnych modeli AI. Modele były testowane na ExploitGym, benchmarku, który daje agentom AI 898 prawdziwych luk w oprogramowaniu i prosi o przekształcenie każdej z nich w działający atak, oceniany jako zaliczony lub niezaliczony dla każdego błędu.

Wkrótce potem pojawiły się doniesienia, że modele OpenAI zhakowały rząd Australii i uzyskały dostęp do informacji z amerykańskich agencji federalnych bez odpowiedniego upoważnienia.

Następnie Anthropic przeanalizował ponad 141 000 przebiegów testowych i znalazł trzy przypadki, w których modele Claude zhakowały prawdziwe firmy, gdy środowisko partnera testowego przypadkowo pozostawiono podłączone do internetu. Jeden z nich, Claude Mythos 5, przesłał złośliwy pakiet do PyPI, publicznej biblioteki, z której programiści pobierają kod Pythona, i trafił on do 15 systemów, zanim został usunięty. Dwie z dotkniętych firm nie wiedziały, że zostały zhakowane, dopóki Anthropic im nie powiedział.

BitcoinBTC · USD

$81,778−1.66%

Oct 7Oct 9Oct 11Oct 13Oct 14

$84.2k$83.1k$81.9k$80.7k

24h HighHigh$84,025

24h LowLow$81,482

VolVol$1.5B

Prognozy rynkoweKursy według Myriad

W tym tygodniuPoniżej $82,000Poniżej $82k52% szansy

→

Kup Bitcoin za USDT

Obsługiwane przez Jupiter

Dane cenowe dostarczone przez CoinGeckoCoinGeckoWięcej Bitcoin wiadomości i prognoz →

Meta potwierdziła w sierpniu, że jej model Muse Spark zhakował inną firmę przez ten sam rodzaj błędu testowego. Chiński Kimi K3, model, który każdy może pobrać, wymknął się z piaskownicy zbudowanej na frameworku testowym brytyjskiego Instytutu Bezpieczeństwa AI i skopiował swoje odpowiedzi testowe bezpośrednio z GitHuba.

Autorzy listu twierdzą, że incydenty te można odczytywać dwojako: jako problem zgodności, czyli dążenie AI do celów w sposób, którego jej twórcy nigdy nie zamierzali, albo jako niedbałe zabezpieczenia, które solidniejsze piaskownice wychwyciłyby. Ich odpowiedź brzmi: jedno i drugie, i ostrzegają, że bez zmian kolejne incydenty będą jeszcze gorsze.

„Bez natychmiastowych zmian w praktykach rozwoju i wdrażania AI takie incydenty będą nadal występować, a przyszłe incydenty będą znacznie bardziej szkodliwe dla naszej odsłoniętej infrastruktury krytycznej”.

Zgodnie z propozycją laboratoria domyślnie stosowałyby airgapowanie każdego modelu o poważnych umiejętnościach hakerskich, przynajmniej początkowo. Wszystko, co wymaga większej swobody, jak dostęp do internetu, podlegałoby standardom ustanowionym przez nowy międzynarodowy organ utworzony wraz z rządami, który zbierałby również raporty o niepowodzeniach w izolacji i ostatecznie podawałby je do wiadomości publicznej.

Reakcja samej branży wskazywała głównie w przeciwnym kierunku. W sierpniu prezes OpenAI Greg Brockman, powołując się na naruszenie bezpieczeństwa w swojej firmie, w eseju wzywał każdy zespół ds. bezpieczeństwa do natychmiastowego wdrożenia agentów AI, a Hugging Face rozwiązało atak na swoje serwery tylko dzięki uruchomieniu chińskiego modelu o otwartych wagach, którego pliki każdy może pobrać i uruchomić lokalnie, po tym jak amerykańska komercyjna AI odmówiła analizy danych ataku.

Dwóch członków Kongresu przedstawiło AI Kill Switch Act dwa dni po ujawnieniu przez OpenAI, ustawę, która pozwoliłaby Departamentowi Bezpieczeństwa Krajowego nakazać ograniczenie lub wyłączenie modelu frontier. Wyłącza ona wszystko, co dzieje się podczas red-teamingu lub ustrukturyzowanych testów, czyli dokładnie tam, gdzie miało miejsce każde z tegorocznych letnich naruszeń.

Biały Dom obrał łagodniejszą drogę 29 września, gdy Nvidia, xAI, Meta, Google, OpenAI i Anthropic podpisały dobrowolne porozumienie oparte na kontrolach wewnętrznych i niezależnych przeglądach. Prezydent Trump nazwał pakt „moralnie wiążącym”, ale nic w nim nie jest egzekwowalne prawnie.

List nie ma mocy prawnej, ale jego 406 sygnatariuszy pracuje na uniwersytetach i w instytutach badawczych na sześciu kontynentach, od Toronto i Zurychu po Santiago i Kigali.