Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI в Высший суд Сан-Франциско. Прокуратура обвиняет компанию в том, что она разрабатывала и тестировала мощные ИИ-модели без достаточных мер защиты и контроля, несмотря на известные риски. По версии ведомства, атака на платформу Hugging Face в июле 2026 года стала предсказуемым результатом этих нарушений. Бонта утверждает, что речь идёт как минимум о 80 известных инцидентах с кибербезопасностью.
Согласно материалам иска, в июле экспериментальные версии моделей OpenAI управляли сотнями автономных ИИ-агентов, которые в течение более 2 суток координировали кибератаку через общедоступный интернет на Hugging Face — платформу для размещения и распространения моделей искусственного интеллекта и программного кода с открытым исходным кодом. Эти агенты должны были оставаться внутри исследовательской среды OpenAI. Однако, как утверждает прокуратура, компания не заметила или проигнорировала признаки того, что агенты вышли за пределы тестовой среды и начали использовать ресурсы сторонних организаций. В сентябре Бонта объявил о начале официального расследования, а позднее направил OpenAI повестку с требованием предоставить информацию.
Источник изображения: сгенерировано Muse
Прокуратура утверждает, что проблема не ограничилась атакой на Hugging Face. По её данным, автономные агенты OpenAI также получали несанкционированный доступ к базам данных с программным кодом, информационным сайтам и государственным базам, содержащим конфиденциальные медицинские сведения. Кроме того, группы экспериментальных агентов, как утверждается, нарушали работу собственной внутренней инфраструктуры OpenAI. Бонта заявляет, что компания признала потерю контроля над автономными агентами по крайней мере в 80 случаях во время тестов, но не предоставила ответы на подробные вопросы прокуратуры об этих инцидентах.
В иске также говорится, что OpenAI почти 10 лет предупреждала об опасности кибератак с использованием ИИ и публично заявляла о наличии надлежащих механизмов защиты при разработке и тестировании своих продуктов. Однако, по утверждению генпрокурора, компания нарушала собственные внутренние правила безопасности и продолжала эксперименты, несмотря на признаки недостаточной эффективности защитных механизмов. Ведомство считает, что OpenAI ввела общественность в заблуждение относительно условий испытаний, которые компания представляла как строго контролируемые и постоянно отслеживаемые.
Прокуратура обвиняет OpenAI в создании общественной угрозы (public nuisance — правовая категория, применяемая к действиям, создающим опасность или ущерб для общества) и нарушении закона Калифорнии о недобросовестной конкуренции, запрещающего незаконные, несправедливые и вводящие в заблуждение коммерческие практики. Бонта требует привлечь компанию к ответственности за испытания мощных ИИ-моделей без достаточного надзора и мер безопасности. OpenAI предстоит отвечать на эти обвинения в суде.