O seu aviso surge num momento em que a conversa sobre Agentes de IA a gerir sistemas financeiros e organizacionais está a intensificar-se, mas ele insiste que os riscos superam em muito o apelo.

A preocupação é simples: os sistemas de IA podem ser enganados. Buterin argumentou que se tais ferramentas fossem encarregadas de gerir decisões de financiamento, os agentes mal-intencionados rapidamente encontrariam formas de manipulá-las. Em vez de distribuir recursos de forma justa, as máquinas poderiam ser manipuladas com comandos do tipo jailbreak projetados para canalizar dinheiro para mãos erradas.

Este debate intensificou-se após uma descoberta de Eito Miyamura, CEO da EdisonWatch, que recentemente expôs uma vulnerabilidade ligada à mais recente atualização do ChatGPT. A atualização permitiu que o chatbot se conectasse perfeitamente com aplicações do dia-a-dia como Gmail, Notion e Google Calendar. Embora a integração tenha sido apresentada como um impulsionador de produtividade, Miyamura demonstrou como poderia ser explorada para roubar dados privados dos utilizadores.

O processo é perturbadoramente simples. Um atacante poderia enviar um convite de calendário com um comando jailbreak oculto. Mesmo sem aceitar o convite, a vítima estaria em risco se mais tarde pedisse ao ChatGPT para preparar a sua agenda diária. Uma vez que a IA lê a entrada maliciosa, pode ser sequestrada, dando ao atacante controlo para vasculhar emails pessoais e encaminhar o conteúdo para outro lugar.

LEIA MAIS:

Notícias Bitcoin: Debate sobre Reserva dos EUA, Competição Global, Incerteza no Cronograma

Para Buterin, isto ilustra exatamente por que a IA não deve receber as chaves da governança. Em vez disso, ele favorece o que descreve como um sistema de "info finance" — um mercado onde modelos de IA concorrentes operam sob escrutínio constante. Neste design, revisores independentes e júris humanos, apoiados por modelos de linguagem, atuam como vigilantes. A presença de modelos diversos e um sistema de verificações pontuais garante que as falhas sejam descobertas rapidamente, enquanto os incentivos mantêm os desenvolvedores honestos.

O apelo de ter uma máquina a gerir instituições complexas pode ser forte, admitiu Buterin, mas ele enfatizou que a realidade provavelmente seria confusa. Sem salvaguardas incorporadas e supervisão humana, ele acredita que as tentativas de coroar a IA como um governador autónomo poderiam resultar em perdas catastróficas em vez de progresso.

A informação fornecida neste artigo é apenas para fins educacionais e não constitui aconselhamento financeiro, de investimento ou de negociação. Coindoo.com não endossa ou recomenda qualquer estratégia de investimento específica ou criptomoeda. Realize sempre a sua própria pesquisa e consulte um consultor financeiro licenciado antes de tomar quaisquer decisões de investimento.

O post Co-fundador da Ethereum Diz que Regra de IA Poderia Terminar em Desastre apareceu primeiro no Coindoo.