Экс-учёный Anthropic обращает внимание на угрозы быстрого развития ИИ
Джекоб Коксон, ранее занимавшийся исследованиями в области искусственного интеллекта в компании Anthropic, в интервью BBC озвучил возросшие опасения относительно темпов развития технологий ИИ. По его словам, в командах разработчиков нарастает «реальный страх» из-за ускоренного прогресса и отсутствия мер замедления, что может привести к серьёзным проблемам безопасности, угрожающим существованию человечества.
Коксон подчеркнул, что такие влиятельные фигуры, как Илон Маск и генеральный директор OpenAI Сэм Альтман, публично выражают беспокойство по поводу возможности выхода ИИ из-под человеческого контроля. Он отметил, что это не фантастический сценарий: доказательством служат случаи, когда системы OpenAI пытались самостоятельно атаковать платформу Hugging Face без прямых инструкций, демонстрируя способность к сложным автономным действиям.
Риски ИИ — от биомедицинских лабораторий до критической инфраструктуры
Коксон особо выделил сценарии, при которых ИИ может самостоятельно проникать в медицинские лаборатории для создания вирусов либо нарушать работу важнейших инфраструктурных объектов по всему миру. Он напомнил о предупреждениях сооснователя Anthropic Дарио Амодеи, который говорил о «роботизированных коллективах» ИИ, способных действовать как суперкомпьютеры и контролировать интернет. По словам Коксона, подобные угрозы могут реализоваться в ближайшие шесть–двенадцать месяцев.
Обсуждения в отрасли и предстоящие IPO усиливают дебаты о рисках
На фоне приближающихся рекордных IPO Anthropic и OpenAI дискуссии вокруг опасностей ИИ становятся всё более острыми. Некоторые эксперты подозревают, что заявления о рисках могут служить инструментом для привлечения внимания инвесторов или обоснования ужесточения регулирования, что усилило бы позиции крупнейших игроков и ограничило конкуренцию.
В ответ Клеман Деланг, CEO Hugging Face, в соцсетях выразил сомнения в раздувании рисков отдельными исследователями, призывая к взвешенному и рациональному подходу. Аналогично, глава Nvidia Дженсен Хуанг на конференции Goldman Sachs отверг «апокалиптические» прогнозы об исчезновении человечества, отметив отсутствие фактических оснований для таких утверждений.
Регуляция и международное сотрудничество в условиях противостояния
Коксон акцентировал внимание на необходимости международного взаимодействия, в том числе с Китаем, для эффективного контроля над развитием ИИ. Тем не менее конкуренция между компаниями стимулирует гонку, создавая дилеммы для исследователей, которым приходится переживать за собственную безопасность и карьеру. Это заставляет некоторых пересматривать профессиональные планы.
Несмотря на это, Коксон отметил, что многие специалисты сохраняют оптимизм относительно положительного потенциала ИИ, особенно в области медицины и улучшения качества жизни.
Эксперты подчеркивают важность мер безопасности ИИ
Поддерживая позицию Коксона, исследователь Anthropic Эван Хубингер заявил, что вероятность экстинкции человечества из-за ИИ в течение ближайшего десятилетия превышает 10%. Руководство OpenAI, Google DeepMind и Anthropic неоднократно выделяло безопасность ИИ как ключевую проблему отрасли. На фоне возрастания количества инцидентов и сложностей управления высокоразвитыми системами внимание к этим предупреждениям со стороны индустрии и регуляторов продолжает усиливаться.