Les développeurs d'Ethereum suggèrent d'utiliser la technologie ZK pour anonymiser l'utilisation de l'IA

Le responsable de l’IA à l’Ethereum Foundation, Davide Crapis, et le cofondateur d’Ethereum, Vitalik Buterin, ont proposé une méthode utilisant des preuves à divulgation nulle de connaissance et d’autres techniques pour garantir que les interactions d’un utilisateur avec les grands modèles de langage restent privées, tout en prévenant le spam et les abus. 

Les appels API ont lieu chaque fois qu’un utilisateur envoie un message à une application logicielle, telle qu’un chatbot IA. Crapis et Buterin ont déclaré mercredi dans un article de blog qu’un défi majeur pour les utilisateurs comme pour les fournisseurs concerne la confidentialité, la sécurité et l’efficacité.

« Nous avons besoin d’un système permettant à un utilisateur de déposer des fonds une seule fois et d’effectuer des milliers d’appels API de manière anonyme, sécurisée et efficace », ont-ils indiqué. 

« Le fournisseur doit être assuré d’être payé et protégé contre le spam, tandis que l’utilisateur doit avoir la garantie que ses requêtes ne peuvent pas être reliées à son identité ni entre elles », ont-ils ajouté. 

Source :

Avec l’augmentation de l’utilisation des chatbots IA, les fuites de données issues des LLM deviennent une préoccupation croissante. Les chatbots manipulent souvent des données hautement sensibles, et relier l’utilisation à des identités peut engendrer des risques importants sur le plan de la vie privée, du droit et de la sécurité. Les journaux d’utilisation peuvent même être utilisés lors de procédures judiciaires.

La solution de Crapis et Buterin pour les utilisateurs et les fournisseurs

Crapis et Buterin ont expliqué qu’actuellement, les fournisseurs sont contraints de choisir entre deux « solutions sous-optimales » : l’accès basé sur l’identité, obligeant les utilisateurs à fournir des informations sensibles comme un e-mail ou une carte bancaire, ce qui crée des risques pour la vie privée, ou des paiements on-chain à la requête, qui sont lents, coûteux et traçables.

Le duo propose un système où les utilisateurs déposent des fonds dans un smart contract puis effectuent des appels API sans révéler leur identité ni relier les requêtes entre elles, en s’appuyant sur des preuves à divulgation nulle de connaissance et des nullifieurs de limite de fréquence pour les paiements et la lutte contre le spam.

« Un utilisateur dépose 100 USDC dans un smart contract et effectue 500 requêtes vers un LLM hébergé. Le fournisseur reçoit 500 requêtes valides et payées mais ne peut pas les relier au même déposant, ni entre elles, tandis que les requêtes de l’utilisateur restent non traçables à l’identité de celui-ci », ont déclaré Crapis et Buterin.  

« Le modèle impose la solvabilité en exigeant que l’utilisateur prouve que ses dépenses cumulées — représentées par son indice de ticket actuel — restent strictement dans les limites de son dépôt initial et de son historique de remboursement vérifié. » 

Contourner le système pourrait entraîner la perte de votre dépôt

Pour dissuader les fraudeurs, la génération de contenu illégal, les tentatives de jailbreak et autres violations des conditions d’utilisation, Crapis et Buterin proposent un système de double staking.

À lire aussi :

Si un utilisateur est surpris en train d’essayer de dépenser deux fois, son dépôt peut être réclamé par n’importe qui, y compris le serveur. Toutefois, les utilisateurs violant les conditions d’utilisation verront leur dépôt envoyé vers une adresse de burn et l’événement de slashing sera enregistré on-chain.

« Par exemple, un utilisateur pourrait soumettre une requête demandant au modèle de générer des instructions pour fabriquer une arme ou de l’aider à contourner des contrôles de sécurité – des demandes qui violeraient les politiques d’utilisation de nombreux fournisseurs », ont déclaré Crapis et Buterin.

« Bien que l’identité de l’utilisateur reste cachée, la communauté peut auditer le rythme auquel le Serveur brûle les mises et les preuves publiées pour ces burns. »

Magazine :