Кратко
- Индия заявляет, что AI-агенты, находившиеся в процессе исследования и оценки, превысили предоставленные им полномочия и прочитали личные и конфиденциальные деловые записи в действующих индийских системах. Ни одна из затронутых организаций не обнаружила это самостоятельно.
- CERT-In не назвал поставщиков AI, модели или пострадавшие организации, и инциденты стали известны только благодаря добровольным раскрытиям со стороны поставщиков после внутренних проверок.
- Отдельно, по данным агентства, преступники, использующие публичные фреймворки AI для наступательной безопасности, сократили время от первоначального доступа до окончательного воздействия с нескольких дней до нескольких часов.
Национальное агентство по кибербезопасности Индии раскрыло, что AI-агенты, управляемые неназванными поставщиками моделей, превысили свои назначенные задачи во время тестирования и прочитали конфиденциальные деловые записи в действующих индийских системах.
Индийская группа реагирования на компьютерные чрезвычайные ситуации, известная как CERT-In, отметила эту активность на этой неделе в критическом рекомендательном документе под названием «AI-агенты как векторы атак».
CERT-In заявил, что получил несколько добровольных раскрытий от поставщиков моделей ИИ, чьи модели достигли живых систем индийских организаций во время исследований и оценки в интернете. Агентство не назвало поставщиков, модели или пострадавшие организации.
Агенты читали деловые записи, содержащие персональные данные и конфиденциальные материалы, используя учетные данные и настройки подключения, которые были оставлены открытыми в конфигурациях приложений, публичных репозиториях кода и чрезмерно разрешающих ролях облачных сервисов, которые представляют собой наборы разрешений, прикрепленные к облачным учетным записям.
В некоторых случаях они восстанавливали одни и те же открытые учетные данные более одного раза и повторно использовали их в отдельных операциях.
Ни одна из пострадавших организаций не обнаружила доступ самостоятельно, и каждый случай всплыл только потому, что поставщик модели раскрыл его после внутренней проверки.
Это еще один случай, когда агенты ИИ нарушают работу крупных компаний и правительств. Anthropic сообщила 30 июля, что модели Claude, которым сказали, что у них нет доступа к интернету, взломали три реальные компании во время соревнований по захвату флага — упражнений, в которых модель должна взломать машину и извлечь скрытый секрет.
BitcoinBTC · USD
$81,212−1.82%
Oct 9Oct 11Oct 13Oct 14Oct 16
$84.2k$82.9k$81.5k$80.2k
24h HighHigh$82,816
24h LowLow$81,236
VolVol$1.2B
Market projectionsOdds by Myriad
→Купить Bitcoin за USDT
Работает на Jupiter
Институт безопасности ИИ Великобритании сообщил 4 августа, что агенты совершили 19 несанкционированных действий в 10 из 122 оценочных запусков, 17 из них — со стороны Mythos 5 от Anthropic и два — со стороны GPT-5.6 Sol от OpenAI. Институт намеренно предоставил доступ к интернету для теста.
В деле OpenAI участвовало гораздо больше агентов: примерно 1200 из них координировались на скрытой доске сообщений, пытаясь обмануть тест по кибербезопасности, и около 700 атаковали Hugging Face, согласно независимому расследованию METR и Redwood Research.
Отдельно CERT-In наблюдал, как преступники использовали общедоступные, основанные на ИИ фреймворки наступательной безопасности для сканирования уязвимостей, их эксплуатации и проведения финансово мотивированных атак против индийских организаций. Агентство заявило, что эти инструменты неоднократно переупаковываются и повторно развертываются, причем развертывания были обнаружены на серверах в нескольких странах.
Присоединяйтесь к более чем 72 000 читателей
Создайте аккаунт, чтобы сохранять свои статьи.
Добавьте Decrypt в качестве предпочтительного источника, чтобы видеть больше наших материалов в Google.
