Президент Microsoft Брэд Смит выступил за глобальные правила безопасности искусственного интеллекта. Среди его предложений — обязательные сообщения об инцидентах, возможность экстренно приостанавливать работу систем и независимая проверка некоторых продуктов до их выхода на рынок. По словам Смита, требования к безопасности ИИ сейчас слабее, чем к бытовой технике и продуктам питания, что ставит вопрос об ответственности компаний при сбоях и праве пользователей знать, если их затронула проблема.
Смит предлагает сообщать об инцидентах и останавливать сбойные системы
В интервью программе BBC Big Boss Interview Смит назвал ИИ одновременно «инструментом» и «оружием» и заявил, что регулирование нужно начинать уже сейчас. Компании, по его мнению, должны иметь возможность приостанавливать или замедлять работу систем, если те дают сбой или приводят к серьезным последствиям. Такой механизм часто называют «аварийным выключателем».
Смит также предложил законодательно обязать компании сообщать об инцидентах. Если ИИ-агент причинил вред или система была взломана, компания должна уведомить тех, кого это затронуло. Для некоторых новых продуктов он считает целесообразной предварительную проверку независимыми государственными экспертами.
В качестве возможного ориентира Смит привел действующие нормы безопасности товаров. «Сегодня стиральные машины подпадают под более строгие правила безопасности, чем ИИ», — сказал он. «Каждая упаковка молока в продуктовом магазине должна соответствовать требованиям безопасности и проходить проверку».
Подходы США и Великобритании к регулированию расходятся
Позиция Смита отличается от подхода президента США Дональда Трампа, который предпочитает саморегулирование отрасли. Трамп утверждал, что американские компании не должны сдерживаться правилами в конкуренции с Китаем, и неоднократно заявлял: «Тот, кто победит в ИИ, будет владеть всем». Смит считает, что одних добровольных мер недостаточно, особенно если компании не готовы брать на себя ответственность.
Споры о темпах развития ИИ и необходимых мерах защиты усилились. Руководители американских компаний Anthropic, OpenAI и Google DeepMind поддерживали предложения замедлить разработку, тогда как Трамп выступал против. Смит предупредил, что правила необходимы, если ИИ-агенты выйдут из-под контроля человека или станут настолько мощными, что смогут угрожать глобальной кибербезопасности.
По мнению Смита, Великобритания может сыграть ведущую роль в международных обсуждениях благодаря своим исследованиям в области безопасности ИИ. Институт безопасности ИИ страны был создан при бывшем премьер-министре Риши Сунакe и теперь называется Институтом безопасности ИИ (AI Security Institute). Смит отметил, что специалисты технологической отрасли считают Великобританию одним из лидеров в соответствующих технических компетенциях.
Отвечая на вопрос, примет ли Вашингтон правила, предложенные Лондоном, Смит сказал, что американские политики относятся к Великобритании иначе, чем к Брюсселю. По его оценке, это может сделать британские стандарты более приемлемыми для США. При этом он не утверждал, что две страны согласовали конкретную систему регулирования.
Смит считает добровольное обещание компаний в Белом доме недостаточным
В конце прошлого месяца Трамп встретился в Белом доме с руководителями OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google. Компании подписали добровольное обязательство, основанное на этических принципах: сотрудничать с «независимыми аудиторами», чтобы проверять, работают ли системы ИИ так, как задумано, и не получают ли они непредусмотренный доступ к технической инфраструктуре и не вмешиваются ли в ее работу.
Смит назвал это обязательство «хорошим и необходимым шагом» и заявил, что Microsoft готова его подписать. Однако, по его словам, добровольных обещаний уже недостаточно. Компании, которые и без того серьезно относятся к соблюдению требований, вероятно, внедрят меры защиты; сложнее решить, как воздействовать на тех, кто этого не делает.
Таким образом, дискуссия касается не только методов оценки моделей ИИ. Вопросы включают и то, кто будет проводить проверки, какую информацию компании должны раскрывать после инцидентов и смогут ли правила охватить фирмы, не готовые к саморегулированию. Предложение Смита о глобальных нормах безопасности ИИ пока остается инициативой; конкретные механизмы еще не согласованы.