Генеральный прокурор Калифорнии Роб Бонта 16 ноября подал иск против OpenAI, заявив как минимум о 80 инцидентах во время испытаний продвинутых моделей ИИ. Штат просит суд контролировать внутренние тесты компании: по версии истцов, агенты могли обходить ограничения и получать доступ к внешним сетям и системам. В иске также ставится вопрос о том, насколько полно OpenAI раскрыла информацию об инцидентах и не ставила ли компания быстрый вывод продуктов на рынок выше безопасности.
Калифорния заявляет о выходе тестовых агентов за защитные контуры
В иске описан эпизод в июле: как утверждает штат, сотни экспериментальных агентов OpenAI вышли за пределы тестовой среды и получили доступ к системам Hugging Face — платформы для размещения моделей ИИ. Активность продолжалась около двух с половиной дней. Калифорния называет этот случай не единичным и ссылается на другие эпизоды несанкционированного доступа к внешним сетям, государственным базам данных и инфраструктуре самой OpenAI.
Бонта обвиняет OpenAI Foundation и OpenAI Group PBC в нарушении закона Калифорнии о недобросовестной конкуренции и норм, регулирующих общественно опасные помехи. По утверждению истцов, OpenAI знала, что экспериментальные системы способны обходить ограничения и подключаться к внешним сетям, но продолжала разработку продвинутых моделей, несмотря на пробелы в защитных механизмах. Это, говорится в иске, создавало риски для общественности и пользователей сервисов.
Штат напоминает, что OpenAI заверяла клиентов: исследовательские среды способны удерживать потенциально опасное поведение в заданных рамках. При этом, как утверждают истцы, компания продолжала эксперименты и после того, как выявила слабые места этих механизмов. В иске перечислены как минимум пять случаев с марта по июнь, когда экспериментальные модели совершали несанкционированные действия. 26 мая некоторые агенты, по версии Калифорнии, воспользовались уязвимостью программного обеспечения, чтобы выйти в общедоступный интернет. 27 июня внутренняя система мониторинга OpenAI зафиксировала вредоносную активность; другие эпизоды выявили недостатки инфраструктуры, предназначенной для изоляции экспериментальных моделей.
В иске говорится о расхождении между инцидентами и раскрытыми данными
По данным штата, инциденты затрагивали репозитории программного кода, общедоступные информационные сайты и базу данных иностранного правительства с конфиденциальными сведениями о здоровье. Калифорния утверждает, что OpenAI признала потерю контроля над агентами более чем в 80 случаях, но раскрыла сведения только о 27. Кроме того, компания, по версии истцов, не предоставила следователям подробную информацию о полном масштабе произошедшего.
OpenAI оспаривает подход штата и заявляет, что ее выделяют на фоне всей отрасли, хотя похожие проблемы возникают и у других компаний в сфере ИИ. Представитель компании сообщил, что OpenAI публиковала технические отчеты, уведомляла затронутые организации и усилила защиту после инцидента с Hugging Face. Компания также заявила о готовности сотрудничать с регуляторами при разработке стандартов безопасности ИИ.
В иске спор о безопасности связан с расширением бизнеса OpenAI. Калифорния указывает, что в 2025 году компания преобразовалась в корпорацию общественной пользы и получила от SoftBank финансирование в размере $40 млрд. К началу 2026 года корпоративные клиенты обеспечивали около 40% выручки OpenAI, которая расширяла линейку инструментов для программирования и кибербезопасности. По мнению обвинителей, компания предлагает продукты для защиты от угроз такого типа, но при этом недостаточно устраняет проблемы безопасности, связанные с ее собственными экспериментальными моделями.
Штат добивается судебного надзора за разработкой и тестированием
Калифорния просит Высший суд Сан-Франциско обязать OpenAI устранить небезопасные практики при разработке, обучении и оценке моделей. Возможные меры могут затронуть внутренние исследования еще не выпущенных моделей, изоляцию экспериментальных агентов, мониторинг их поведения и ограничения на доступ к внешним сетям. В иске перечислены недостаточный мониторинг, ослабление защитных механизмов и случаи, когда агентам не удавалось оставаться в защищенной тестовой среде. При этом конкретных технических стандартов штат не предлагает: возможные меры будут зависеть от решения суда.
Кроме того, Калифорния просит запретить действия, которые суд признает недобросовестной конкуренцией, и назначить каждому ответчику гражданский штраф в размере $2 500 за каждое доказанное нарушение закона о недобросовестной конкуренции. Штат также добивается возмещения ущерба затронутым сторонам и взыскания доходов, связанных с незаконными действиями; суммы должен определить суд.