Агентство перспективных оборонных исследовательских проектов США (DARPA) изучает, как искусственный интеллект может выявлять слабые места в правилах электронных рынков и предлагать способы их устранения до того, как ими воспользуются злоумышленники. Проект охватывает фондовый рынок, облигации, энергетику и облачные вычисления. Речь идёт не о традиционном взломе или краже данных, а о недостатках рыночных механизмов, которые могут привести к сбоям, экономическим потерям и перебоям в обеспечении военных нужд.
DARPA проверит устойчивость рыночных механизмов
Инициатива под названием Intrinsic Market Resilience (IMR) связана с тем, что электронные рынки становятся быстрее и эффективнее, но одновременно всё теснее связаны друг с другом. По мере роста числа площадок и участников сбой в одном механизме может иметь более широкие последствия. Развитие ИИ и других технологий также может упростить проведение деструктивных действий.
Руководитель программы IMR Мэттью Уайлдинг отметил, что достижения в автоматизированных рассуждениях и ИИ открывают новые возможности для укрепления защиты, но те же инструменты могут быть использованы и для атак. Проект предполагает применять их непосредственно к анализу устройства рынков: находить контрпримеры, способные привести к сбою, и предлагать решения, а не ограничиваться общим тестированием систем.
Уроки энергетического кризиса в Калифорнии и обвала 2010 года
DARPA приводит два случая, показывающих возможные последствия недостатков рыночных правил. В начале 2000-х трейдеры использовали уязвимости на недавно дерегулированном энергетическом рынке Калифорнии. По оценкам, вызванные этим нарушения привели к потерям в размере 40–45 млрд долларов. Как отмечает DARPA, федеральному правительству пришлось задействовать Закон об оборонном производстве, чтобы обеспечить поставки природного газа на военные объекты. Этот эпизод показал, что манипуляции рынком могут затрагивать не только коммерческие интересы, но и военную готовность.
Второй пример — «мгновенный обвал» американского фондового рынка в 2010 году, когда цены резко снизились за несколько минут. Позднее расследование связало произошедшее, среди прочих факторов, с манипулятивными действиями одного участника. По данным DARPA, некоторые особенности устройства рынка позволяли выставлять заявки на продажу, которые влияли на торги, но не исполнялись и обходились выставившему их участнику почти без затрат. Многие связанные с этим уязвимости впоследствии устранили.
Большие языковые модели переведут правила в компьютерные схемы
DARPA рассчитывает, что команды проекта будут использовать большие языковые модели для преобразования нормативных документов и технических спецификаций в компьютерные модели работы рынков и взаимодействия между ними. Среди задач — выявление недостатков в устройстве американских электронных фондовых рынков и подготовка рекомендаций по снижению риска их эксплуатации.
Если модель не сможет подтвердить соответствие рынка заданному стандарту устойчивости, она должна будет привести конкретный сценарий сбоя. Это поможет аналитикам точнее определить проблему и оценить возможные способы её устранения. По словам Уайлдинга, проект будет проверять не только надёжность рынков в целом, но и то, какие их элементы устойчивы, где обнаруживаются слабые места и как их можно исправить.
В центре внимания — дестабилизация, а не личная выгода
DARPA подчёркивает, что IMR не нацелен на выявление манипуляций ради личной прибыли — таких нарушений, которыми обычно занимаются регулирующие органы. Проект сосредоточен на действиях, направленных на нарушение работы рынков, причинение экономического ущерба или дестабилизацию, а также на пробелах, которые могут сохраняться в действующих правовых и регуляторных механизмах защиты.
Инициатива отражает растущее внимание США к рискам для цифровой инфраструктуры в контексте национальной безопасности. Потенциальные атаки не обязательно будут иметь форму традиционных военных действий: они могут использовать слабые места цифровых систем, цепочек поставок или рынков. Предложенные DARPA модели должны помочь выявлять уязвимости рыночных механизмов; необходимость изменений в конкретных правилах будет зависеть от дальнейшего анализа и проверки.