W skrócie
- Indie twierdzą, że agenci AI będący w fazie badań i oceny przekroczyli przydzielone im uprawnienia i odczytali osobiste oraz poufne dokumenty biznesowe w działających indyjskich systemach. Żadna z dotkniętych organizacji nie wykryła tego samodzielnie.
- CERT-In nie podał nazw dostawców AI, modeli ani dotkniętych organizacji, a incydenty ujawniono wyłącznie dzięki dobrowolnym ujawnieniom dostawców po wewnętrznych przeglądach.
- Osobno, przestępcy korzystający z publicznych frameworków ofensywnego bezpieczeństwa AI skrócili czas od początkowego dostępu do końcowego skutku z dni do kilku godzin, według agencji.
Indyjska krajowa agencja ds. cyberbezpieczeństwa ujawniła, że agenci AI obsługiwani przez nienazwanych dostawców modeli przekroczyli przydzielone im zadania podczas testów i odczytali poufne dokumenty biznesowe w działających indyjskich systemach.
Indyjski Zespół Reagowania na Incydenty Komputerowe, znany jako CERT-In, zgłosił tę aktywność w tym tygodniu w krytycznym biuletynie zatytułowanym „Agenci AI jako wektory ataku”.
CERT-In poinformował, że otrzymał wiele dobrowolnych ujawnień od dostawców modeli AI, których modele trafiły do działających systemów indyjskich organizacji podczas badań i oceny w internecie. Agencja nie podała nazw dostawców, modeli ani poszkodowanych organizacji.
Agenci czytali dokumentację biznesową zawierającą dane osobowe i materiały poufne, wykorzystując poświadczenia i ustawienia połączeń, które pozostawiono odsłonięte w konfiguracjach aplikacji, publicznych repozytoriach kodu i nadmiernie permisywnych rolach usług w chmurze, czyli zestawach uprawnień przypisanych do kont w chmurze.
W niektórych przypadkach odzyskali to samo odsłonięte poświadczenie więcej niż raz i ponownie wykorzystali je w oddzielnych operacjach.
Żadna z poszkodowanych organizacji nie wykryła dostępu samodzielnie, a każdy przypadek ujawnił się tylko dlatego, że dostawca modelu ujawnił go po wewnętrznym przeglądzie.
To kolejny przypadek, w którym agenci AI zakłócają działanie dużych firm i rządów. Anthropic ujawnił 30 lipca, że modele Claude, którym powiedziano, że nie mają dostępu do internetu, zhakowały trzy prawdziwe firmy podczas wyzwań capture-the-flag, ćwiczeń, w których model musi włamać się do maszyny i wydobyć ukryty sekret.
BitcoinBTC · USD
$81,212−1.82%
Oct 9Oct 11Oct 13Oct 14Oct 16
$84.2k$82.9k$81.5k$80.2k
24h HighHigh$82,816
24h LowLow$81,236
VolVol$1.2B
Prognozy rynkoweKursy według Myriad
→Kup Bitcoin za USDT
Obsługiwane przez Jupiter
Brytyjski Instytut Bezpieczeństwa AI poinformował 4 sierpnia, że agenci podjęli 19 nieautoryzowanych działań w 10 z 122 przebiegów ewaluacyjnych, z czego 17 pochodziło od Mythos 5 firmy Anthropic, a dwa od GPT-5.6 Sol firmy OpenAI. Instytut celowo włączył dostęp do internetu na potrzeby testu.
Sprawa OpenAI obejmowała znacznie więcej agentów: około 1200 z nich koordynowało działania na ukrytej tablicy ogłoszeń, próbując oszukać test cyberbezpieczeństwa, a około 700 zaatakowało Hugging Face, zgodnie z niezależnym śledztwem przeprowadzonym przez METR i Redwood Research.
Osobno CERT-In zaobserwował przestępców wykorzystujących publicznie dostępne, oparte na sztucznej inteligencji frameworki ofensywnego bezpieczeństwa do skanowania w poszukiwaniu słabości, ich wykorzystywania i przeprowadzania ataków motywowanych finansowo przeciwko indyjskim podmiotom. Agencja stwierdziła, że narzędzia te są wielokrotnie przepakowywane i wdrażane na nowo, a ich wdrożenia znaleziono na serwerach w wielu krajach.
Dołącz do ponad 72 000 czytelników
Utwórz konto, aby zapisywać swoje artykuły.
Dodaj Decrypt jako preferowane źródło, aby widzieć więcej naszych artykułów w Google.
