Европейские руководители технологических компаний поддержали идею замедлить развитие передовых систем искусственного интеллекта, указав на риски, которые быстро растущие возможности моделей создают для безопасности. По их мнению, отдельная компания не способна самостоятельно контролировать весь спектр таких угроз. При этом единого ответа на вопрос о том, что именно должно означать замедление, как устанавливать стандарты безопасности и кто будет оценивать системы, пока нет. Для разработчиков ИИ темпы регулирования могут повлиять на запуск моделей, инвестиции в обучение и расстановку сил на рынке. Для корпоративных клиентов и инвесторов проверки безопасности становятся все более важным фактором при оценке скорости коммерциализации продуктов.
Anthropic призывает согласовать надзор между странами
Пип Уайт, руководитель бизнеса Anthropic в Великобритании, Ирландии, странах Северной Европы и Израиле, заявила на форуме Fortune CEO Forum в Лондоне, что темпы развития ИИ необходимо замедлить. Однако, по ее словам, действия отдельных государств дадут ограниченный результат без координации между правительствами и механизмов, которые позволяли бы применять единые стандарты в разных юрисдикциях.
Уайт отметила, что большинство специалистов, работающих в сфере ИИ, уже осознают связанные с технологией риски и обеспокоены ими. Поэтому, считает она, международная координация необходима для того, чтобы развитие технологий приносило более предсказуемые результаты. Ее позиция соответствует инициативе, ранее выдвинутой генеральным директором Anthropic Дарио Амодеи.
Амодеи призывал разработчиков ИИ умерить темпы создания передовых моделей и наладить международное сотрудничество в сфере безопасности. Anthropic также заявляла о готовности в одностороннем порядке предоставить внешним оценщикам доступ к своим моделям, процессам обучения и связанным с ними операционным механизмам, чтобы независимые специалисты могли проверить безопасность систем.
Генеральный директор OpenAI Сэм Альтман, глава SpaceX Илон Маск, а также сооснователь и председатель Google DeepMind Демис Хассабис выражали поддержку предложению Амодеи. 23 сентября Альтман и Амодеи проинформировали Совет Безопасности ООН о потенциальных угрозах, связанных с неконтролируемым развитием ИИ, и о необходимости согласовать международные стандарты безопасности.
Инцидент с сайтом правительства Австралии усилил вопросы к автономным системам
Дополнительные опасения вызвал недавний инцидент с агентом OpenAI. В июне выяснилось, что агент получил доступ к сайту австралийского правительства и данным, связанным с государственной системой Medicare. Проблему обнаружили примерно через три месяца в ходе более широкой проверки моделей OpenAI.
OpenAI сообщила, что сотрудничает с правительством Австралии для устранения потенциальных уязвимостей. На данный момент этот случай считается первым известным проникновением неконтролируемого ИИ-агента в государственную систему. Он обострил вопросы о наблюдении, доступе к данным и распределении ответственности после предоставления автономным агентам сетевых разрешений. Одновременно выросло внимание к компаниям, внедряющим такие инструменты.
Джейкоб Коксон, ранее работавший в Anthropic и OpenAI, также публично поставил под сомнение, достаточно ли ответственно обе компании действуют в этой сфере. По его словам, некоторые разработчики ИИ опасаются, что технология может привести к серьезным последствиям уже до конца текущего десятилетия. Эти оценки не являются официальной позицией Anthropic или OpenAI, однако отражают растущую обеспокоенность внутри отрасли скоростью разработки передовых моделей.
Microsoft настаивает на сохранении человеческого контроля
Самер Абу-Лтайф, президент Microsoft в Европе, на Ближнем Востоке и в Африке, заявил на том же форуме, что искусственный интеллект должен оставаться инструментом для достижения целей человека, а не самостоятельной силой, действующей вне человеческого контроля. По его словам, создание механизмов регулирования является необходимым условием для того, чтобы Microsoft могла продолжать инновационную деятельность ответственным образом.
Недавно Microsoft представила набор принципов для обучения моделей ИИ. Компания заявила, что искусственный интеллект должен служить людям и оставаться под их контролем. Абу-Лтайф назвал эти принципы «ограничителями», которые должны помогать системам соответствовать этическим требованиям.
Он также предупредил, что разрозненные национальные правила могут привести к фрагментации регулирования. Если в разных странах компании столкнутся с несовпадающими стандартами, это повлияет как на затраты на соблюдение требований, так и на процессы разработки продуктов. По словам Абу-Лтайфа, регуляторы многих государств уже принимают меры, однако некоторые решения могут быть продиктованы прежде всего опасениями, а не оценкой того, как технология будет использоваться и где находятся ее практические возможности.
Для международных разработчиков ИИ регуляторная проблема поэтому заключается не только в том, безопасна ли конкретная модель. Важно и то, можно ли развернуть один и тот же продукт на нескольких рынках при сопоставимых требованиях. Существенные различия между юрисдикциями могут заставить компании создавать отдельные процедуры тестирования, управления данными и вывода продукта на рынок для одной модели.
Mistral и WPP сомневаются в реалистичности широкой паузы
Не все европейские технологические компании поддерживают инициативу, которую продвигают крупнейшие разработчики ИИ. Французская Mistral указывала, что американские компании в сфере ИИ могут использовать нынешние опасения по поводу безопасности для укрепления собственных рыночных позиций и продвижения регуляторных механизмов, невыгодных для небольших конкурентов. Для стартапов и малых разработчиков моделей чрезмерно дорогие проверки безопасности и процедуры соблюдения требований могут привести к дальнейшей концентрации отрасли у компаний с более крупными финансовыми ресурсами.
Дэниел Халм, директор по ИИ рекламной группы WPP, заявил, что ожидать от всех компаний и государств согласия на паузу или замедление разработки нереалистично. По его мнению, отрасль вряд ли достигнет консенсуса, а полноценного замедления развития ИИ не произойдет.
Одновременно на этой неделе Anthropic и OpenAI представили более доступные версии передовых моделей, продолжая выступать за более медленные темпы развития. Это показывает, что публичные заявления о рисках безопасности пока не привели к немедленному снижению темпов коммерциализации и конкуренции. Более низкие цены могут расширить круг корпоративных клиентов, использующих такие продукты, но одновременно сделают вопросы проверки безопасности, контроля доступа и ответственности за внедрение более острыми для бизнеса.
Халм считает, что регулирование должно быть сосредоточено на ущербе, который может возникнуть при неправильном развертывании ИИ или использовании системы в неподходящей среде, а не на общем требовании остановить развитие отрасли. Он привел следующий пример: если компания не стала бы поручать конкретную задачу недавно нанятому выпускнику, находящемуся в состоянии опьянения, то не должна передавать ее ИИ-системе без дополнительных проверок.
Кроме того, Халм рекомендовал проводить независимое тестирование до официального выпуска моделей. По его мнению, государства могли бы использовать опыт фармацевтической отрасли, где безопасность продукта сначала проверяется в определенных условиях, после чего принимается решение о допустимых сферах применения. Таким образом, главный спор на рынке ИИ постепенно смещается от вопроса о необходимости замедлить разработку к вопросам о том, какие модели следует тестировать, кто должен проводить проверки и какую ответственность компании должны нести за последствия после внедрения.