Desenvolvedores do Ethereum sugerem usar tecnologia ZK para anonimizar o uso de IA

O líder de IA da Ethereum Foundation, Davide Crapis, e o cofundador da Ethereum, Vitalik Buterin, propuseram uma forma de usar provas de conhecimento zero e outros métodos para garantir que as interações de um usuário com grandes modelos de linguagem sejam privadas, ao mesmo tempo em que previnem spam e abusos. 

As chamadas de API ocorrem toda vez que um usuário envia uma mensagem para um aplicativo de software, como um chatbot de IA. Crapis e Buterin disseram em um post no blog nesta quarta-feira que um dos principais desafios tanto para usuários quanto para provedores é a privacidade, segurança e eficiência.

“Precisamos de um sistema onde um usuário possa depositar fundos uma vez e fazer milhares de chamadas de API de forma anônima, segura e eficiente”, disseram. 

“O provedor deve ter garantia de pagamento e proteção contra spam, enquanto o usuário deve ter a garantia de que seus pedidos não podem ser vinculados à sua identidade ou entre si”, acrescentaram. 

Fonte:

Com o aumento do uso de chatbots de IA, os vazamentos de dados de LLMs se tornaram uma preocupação crescente. Os chatbots frequentemente lidam com dados altamente sensíveis, e vincular o uso a identidades pode criar riscos significativos de privacidade, legais e de segurança. Registros de uso podem até ser utilizados em processos judiciais.

Solução de Crapis e Buterin para usuários e provedores

Crapis e Buterin disseram que atualmente os provedores são forçados a escolher entre dois “caminhos subótimos”: acesso baseado em identidade, com usuários obrigados a fornecer informações sensíveis como e-mail ou cartão de crédito, o que cria riscos à privacidade, ou pagamentos on-chain por solicitação, que são lentos, caros e rastreáveis.

A dupla propõe um sistema onde os usuários depositam fundos em um smart contract e então fazem chamadas de API sem revelar sua identidade ou vincular solicitações, aproveitando provas de conhecimento zero e nulificadores de limite de taxa para pagamentos e aplicação anti-spam.

“Um usuário deposita 100 USDC em um smart contract e faz 500 consultas a um LLM hospedado. O provedor recebe 500 solicitações válidas e pagas, mas não pode vinculá-las ao mesmo depositante, nem entre si, enquanto as solicitações do usuário permanecem desvinculadas da identidade do usuário”, disseram Crapis e Buterin.  

“O modelo impõe solvência ao exigir que o usuário prove que seus gastos cumulativos – representados por seu índice de ticket atual – permanecem estritamente dentro dos limites de seu depósito inicial e de seu histórico de reembolsos verificados.” 

Tentar burlar o sistema pode cortar seu depósito

Para desencorajar golpistas, geração de conteúdo ilegal, tentativas de jailbreak e outras violações dos termos de serviço, Crapis e Buterin propõem um sistema de staking duplo.

Relacionado:

Se um usuário for pego tentando gastar duas vezes, seu depósito pode ser reivindicado por qualquer pessoa, incluindo o servidor. No entanto, usuários que violarem os termos de serviço terão seu depósito enviado para um endereço de queima e o evento de corte é registrado on-chain.

“Por exemplo, um usuário pode submeter uma solicitação pedindo que o modelo gere instruções para construir uma arma ou para ajudá-lo a burlar controles de segurança – solicitações que violariam as políticas de uso de muitos provedores”, disseram Crapis e Buterin.

“Enquanto a identidade do usuário permanece oculta, a comunidade pode auditar a taxa na qual o Servidor queima os stakes e as evidências publicadas para essas queimas.”

Revista: