16 октября сооснователь Ethereum Виталик Бутерин рассказал о своем «параноидальном режиме» для ИИ-агентов. Такой подход ставит безопасность, контроль разрешений и защиту от непреднамеренных действий выше количества задач, которые агент способен выполнять. Для разработчиков, связывающих ИИ с блокчейн-инструментами, вопрос особенно практический: когда программа действует от имени пользователя, границы ее доступа напрямую затрагивают безопасность цифровых активов и учетных записей.
Как Бутерин настраивает ИИ-агентов
Бутерин описал личные принципы настройки поведения ИИ-агента и назвал их «параноидальным режимом» — это название отражает намеренно ограничительный подход. В отличие от обычного чат-бота, агент может непрерывно выполнять задачи, обращаться к внешним инструментам и совершать действия по заданным инструкциям. Поэтому важно оценивать не только точность его ответов, но и то, к каким ресурсам он имеет доступ, что именно может делать и можно ли отменить или ограничить последствия ошибки.
Речь идет о принципах настройки и мерах безопасности, а не о новом обновлении протокола Ethereum. Описание не касается параметров сети или изменения цены ETH. Однако Бутерин как сооснователь Ethereum продолжает участвовать в технических дискуссиях отрасли, поэтому его подход важен для разработчиков криптопродуктов. ИИ-инструменты все чаще применяют при разработке ПО, управлении активами и создании ончейн-приложений, а распределение прав доступа для агентов становится отдельной технической задачей для команд и пользователей.
Чем опасны широкие разрешения в блокчейне
Если ИИ-агент может пользоваться внешними инструментами, файлами или функциями учетной записи, ошибочная инструкция, неверная оценка ситуации или непредусмотренное действие способны привести к более серьезным последствиям. В блокчейн-приложениях завершенные транзакции, как правило, сложно отменить. Поэтому доступ к приватным ключам, право подписывать операции и возможность переводить средства требуют более строгого контроля, чем обычный доступ к программному обеспечению.
Главный акцент в подходе Бутерина — на настройках безопасности, а не на демонстрации возможностей автоматизации. Пользователю должно быть понятно, какие действия агенту разрешены, какие запрещены и на каких этапах необходимо подтверждение человека.
«Параноидальный режим» не устраняет все риски, связанные с ИИ-агентами. Безопасность по-прежнему зависит от используемых инструментов, среды работы, структуры разрешений и действий пользователя. Бутерин описал собственный способ работы и настройки, а не универсальный стандарт для разработчиков и приложений. Криптопроектам все равно потребуется отдельно проверять границы возможностей агента, если тот меняет код, взаимодействует с блокчейном или обрабатывает чувствительные данные. В центре обсуждения Бутерин поставил контроль над действиями ИИ-агентов, а не только их способность автоматизировать задачи.