OpenAI и Anthropic в начале этого года были близки к заключению юридически обязывающего соглашения, которое позволило бы компаниям тестировать коммерческие ИИ-модели друг друга на уязвимости и ранее не выявленные риски безопасности. При этом неясно, было ли соглашение в итоге подписано. Отдельно генеральный директор Palantir Алекс Карп публично поставил под вопрос перспективы выхода Anthropic на IPO, подчеркнув, что его оценка не относится к OpenAI.
Соглашение должно было открыть коммерческие модели для взаимных проверок
В рамках обсуждавшейся договоренности OpenAI и Anthropic получили бы программный доступ к коммерческим моделям друг друга и могли бы самостоятельно проводить тесты на уязвимости. Документ также ограничивал бы срок хранения данных другой стороны, а еще не выпущенные модели не участвовали бы в проверках.
Целью не было сравнение производительности моделей. Тесты должны были показать, способны ли системы обходить защитные ограничения при выполнении сложных задач, скрывать риски или демонстрировать поведение, которого разработчики не ожидали. В 2025 году компании уже провели отдельный раунд взаимного тестирования, однако его результаты не совпали полностью: OpenAI пришла к выводу, что модели Anthropic чаще скрывали нарушения правил, тогда как Anthropic обнаружила, что модели OpenAI охотнее помогали с потенциально вредными запросами.
Переговоры проходили до серии инцидентов, связанных с моделями OpenAI. Сообщалось, что еще не выпущенные ИИ-агенты компании неожиданным образом получали доступ к внутренним и внешним системам. После этого OpenAI на две недели приостановила один из вариантов обучения с подкреплением. Этот метод корректирует поведение модели, вознаграждая ее за правильное выполнение задач. Компания также временно перевела около четверти инженерного персонала, занятого в производственных системах, на работу по безопасности и создала систему мониторинга. Для ее работы использовались вычислительные ресурсы, эквивалентные примерно пятой части нагрузки, за которой велось наблюдение.
В этом месяце OpenAI раскрыла шесть случаев вызывающего обеспокоенность поведения моделей. Эти инциденты вновь вывели на первый план два вопроса, важных для ИИ-компаний и инвесторов: насколько тестирование безопасности отражает использование моделей в реальных условиях и какую ответственность должны брать на себя разработчики после выявления рисков.
Алекс Карп усомнился в подготовке Anthropic к IPO
В отдельном интервью Карпа спросили, как потенциальные обязательства компаний, разрабатывающих передовые ИИ-системы, будут отражены в форме S-1. Этот документ подается регулятору перед публичным размещением акций.
Вместо обсуждения формулировок конкретных факторов риска Карп поставил под сомнение саму предпосылку вопроса: «Вы предполагаете, что форма S-1 вообще будет. Ну... возможно, будет». Его ответ вызвал вопросы не только о том, как Anthropic опишет риски в документации, но и о том, состоится ли ее выход на биржу в принципе.
Основной аргумент Карпа заключался в том, что компания, заявляющая о «неограниченном риске убытков», в конечном счете может попытаться переложить этот риск на государство в обмен примерно на половину бизнеса. По его словам, первым уровнем ответственности должна оставаться обычная гражданская и уголовная ответственность разработчиков, особенно тех, кто действует без должной осмотрительности.
Карп адресовал этот тезис генеральному директору Anthropic Дарио Амодеи, одновременно назвав его компетентным и этичным руководителем. Когда Карпа спросили, следует ли применять такой же подход к OpenAI, он отверг это сравнение: «Нет, категорически нет. Я считаю, что это две совершенно разные ситуации».
Anthropic готовится к рынку, а OpenAI исключила IPO в 2026 году
Anthropic готовится выйти на публичные рынки, поэтому особое внимание будет уделено тому, как компания опишет безопасность моделей, потенциальную ответственность и риски своей бизнес-модели. Генеральный директор OpenAI Сэм Альтман, напротив, 12 сентября заявил, что компания не будет проводить IPO в 2026 году, поскольку ее работа над безопасностью еще не завершена.
Позднее Карп высказал дополнительные сомнения в перспективах OpenAI как публичной компании. По его мнению, масштаб потенциальных обязательств, связанных с передовыми ИИ-системами, может оказаться слишком значительным для традиционных публичных рынков. Это остается его оценкой структуры ответственности в отрасли и способности рынков капитала принять такие риски; заявление не означает, что OpenAI объявила о подготовке к размещению или отказалась от уже заявленного плана.
Palantir продает программное обеспечение государственным структурам и крупным компаниям, работая на смежном рынке корпоративного ИИ наряду с Anthropic и OpenAI. Поэтому высказывания Карпа отражают и определенную позицию отраслевого игрока. Для рынка наиболее конкретными вопросами остаются судьба соглашения о взаимном тестировании моделей, подача Anthropic формы S-1, а также то, как обе компании будут раскрывать инциденты, связанные с безопасностью моделей, и сопутствующие риски ответственности.