O cofundador da Ethereum, Vitalik Buterin, apresentou em 16 de outubro a sua configuração “Paranoid Mode” para agentes de inteligência artificial (IA). A abordagem dá prioridade à segurança, ao controlo de permissões e ao risco de ações não intencionais, em vez de maximizar o número de tarefas que um agente pode executar. Para programadores que combinam agentes de IA com ferramentas de blockchain, a questão é diretamente operacional: quando um software pode agir em nome do utilizador, os limites das suas permissões passam a estar ligados à segurança de ativos digitais e contas.
A configuração restritiva defendida por Buterin
Buterin descreveu uma configuração pessoal sobre a forma como um agente de IA deve operar e chamou-lhe “Paranoid Mode”, um nome que traduz uma postura deliberadamente restritiva. Ao contrário de um chatbot convencional, um agente de IA é normalmente concebido para executar tarefas de forma contínua, aceder a ferramentas externas ou tomar decisões com base em instruções.
Por isso, a avaliação de um agente não se limita à capacidade de produzir uma resposta correta. Os utilizadores também precisam de saber a que recursos o sistema pode aceder, que ações está autorizado a realizar e se existe uma forma de anular ou limitar uma operação errada. Estes critérios tornam-se mais relevantes quando o agente interage com contas, aplicações financeiras ou infraestruturas de blockchain.
O conteúdo apresentado por Buterin centra-se em princípios de configuração e controlos de segurança, e não numa nova atualização do protocolo Ethereum. Também não diz respeito aos parâmetros da rede Ethereum nem a alterações no preço do ETH. Ainda assim, os comentários são relevantes para equipas que desenvolvem aplicações de criptoativos, dado o envolvimento contínuo de Buterin nas discussões técnicas do setor.
As ferramentas de IA são utilizadas com maior frequência no desenvolvimento de software, na gestão de ativos e em aplicações on-chain. Nesse contexto, a definição das permissões de um agente constitui uma questão técnica própria, que utilizadores e equipas de desenvolvimento precisam de analisar separadamente.
Transações em blockchain elevam o risco de erros
Quando um agente de IA tem acesso a ferramentas externas, ficheiros ou funções relacionadas com contas, uma instrução equivocada, uma avaliação incorreta ou uma ação não prevista pode produzir efeitos mais amplos. Em aplicações de blockchain, as transações concluídas são, em geral, difíceis de reverter. Chaves privadas, autoridade de assinatura e autorização para transferir fundos exigem, por isso, um nível de controlo diferente do acesso habitual a software.
A importância da abordagem de Buterin está em colocar as definições de segurança antes das demonstrações de funcionalidades. Mesmo que um agente disponha de amplas capacidades de automação, o utilizador deve conseguir identificar com clareza o que o sistema pode ou não fazer e quais as etapas que continuam a exigir confirmação humana.
O “Paranoid Mode” não elimina todos os riscos associados aos agentes de IA. A segurança efetiva continua a depender das ferramentas utilizadas, do ambiente de execução, da estrutura de permissões e das ações do próprio utilizador. Buterin apresentou uma forma pessoal de utilização e configuração, não uma solução padronizada aplicável da mesma maneira a todos os programadores ou aplicações.
Os projetos de criptoativos terão ainda de testar os limites dos agentes em cenários específicos, incluindo alterações de código, interação com blockchains e tratamento de dados sensíveis. A proposta coloca os controlos sobre o comportamento dos agentes de IA no centro da discussão técnica, em vez de avaliar apenas o grau de automação que estes sistemas conseguem oferecer.