Desarrolladores de Ethereum sugieren usar tecnología ZK para anonimizar el uso de IA

El líder de IA de Ethereum Foundation, Davide Crapis, y el cofundador de Ethereum, Vitalik Buterin, han propuesto una manera de utilizar pruebas de conocimiento cero y otros métodos para asegurar que las interacciones de un usuario con modelos de lenguaje grandes sean privadas, mientras se previene el spam y el abuso. 

Las llamadas API ocurren cada vez que un usuario envía un mensaje a una aplicación de software, como un chatbot de IA. Crapis y Buterin dijeron en una publicación de blog el miércoles que un desafío central tanto para usuarios como para proveedores es la privacidad, la seguridad y la eficiencia.

“Necesitamos un sistema donde un usuario pueda depositar fondos una vez y realizar miles de llamadas API de manera anónima, segura y eficiente”, afirmaron. 

“El proveedor debe tener garantizado el pago y protección contra el spam, mientras que el usuario debe tener garantizado que sus solicitudes no pueden vincularse ni a su identidad ni entre sí”, agregaron. 

Fuente:

Con el aumento en el uso de chatbots de IA, las filtraciones de datos de los LLMs se han convertido en una preocupación creciente. Los chatbots a menudo manejan datos altamente sensibles, y vincular el uso con identidades puede crear riesgos significativos de privacidad, legales y de seguridad. Los registros de uso incluso pueden ser utilizados en procesos judiciales.

La solución de Crapis y Buterin para usuarios y proveedores

Crapis y Buterin dijeron que actualmente los proveedores se ven obligados a elegir entre dos “caminos subóptimos”, acceso basado en identidad con los usuarios obligados a entregar información sensible como un correo electrónico o tarjeta de crédito, lo que crea riesgos de privacidad, o pagos on-chain por cada solicitud, que son lentos, costosos y rastreables.

El dúo propone un sistema donde los usuarios depositan fondos en un smart contract y luego realizan llamadas API sin revelar su identidad ni vincular las solicitudes, aprovechando pruebas de conocimiento cero y anuladores de límite de tasa para pagos y aplicación anti-spam.

“Un usuario deposita 100 USDC en un smart contract y realiza 500 consultas a un LLM alojado. El proveedor recibe 500 solicitudes válidas y pagadas pero no puede vincularlas al mismo depositante ni entre sí, mientras que los mensajes del usuario permanecen desvinculados de su identidad”, dijeron Crapis y Buterin.  

“El modelo garantiza la solvencia al requerir que el usuario demuestre que su gasto acumulado—representado por su índice de ticket actual—permanece estrictamente dentro de los límites de su depósito inicial y de su historial de reembolsos verificado.” 

Hacer trampa en el sistema podría reducir tu depósito

Para disuadir a los estafadores, la generación de contenido ilegal, intentos de jailbreaking y otras violaciones de los términos de servicio, Crapis y Buterin proponen un sistema de doble staking.

Relacionado:

Si se detecta que un usuario intenta gastar doble, su depósito puede ser reclamado por cualquiera, incluido el servidor. Sin embargo, los usuarios que violen los términos de servicio tendrán su depósito enviado a una burn address y el evento de reducción quedará registrado on-chain.

“Por ejemplo, un usuario podría enviar una consulta pidiendo al modelo que genere instrucciones para construir un arma o que lo ayude a evadir controles de seguridad – solicitudes que violarían las políticas de uso de muchos proveedores”, dijeron Crapis y Buterin.

“Mientras la identidad del usuario permanece oculta, la comunidad puede auditar la tasa a la que el Servidor quema stakes y las pruebas presentadas para estas quemas.”

Revista: