« Pas vos clés, pas vos bots » : Balaji Srinivasan affirme que le contrôle de l’IA dépendra des clés cryptographiques

Le débat sur l'intelligence artificielle (IA) ne se limite plus à la précision des modèles ou à la régulation. Les questions de contrôle, de propriété et d’autonomie à long terme deviennent centrales dans la discussion. Dans une récente publication sur X intitulée « Not Your Keys, Not Your Bots », l’investisseur crypto et auteur Balaji Srinivasan a établi un cadre direct : celui qui contrôle les clés contrôle les machines.

Srinivasan : l’IA a encore besoin des humains pour fixer ses objectifs

Srinivasan résume la question en termes simples, déclarant : « La question fondamentale est de savoir si l’IA reste en laisse. » Pour l’instant, il affirme que les humains gardent le contrôle. Même si l’IA peut améliorer les invites, réfléchir à des problèmes et corriger ses propres erreurs, une personne définit encore l’objectif. Les humains déterminent la direction en fonction des marchés, de la politique et des évolutions de la société.

Il s’interroge toutefois sur la pérennité de cet ordre. À mesure que les systèmes d’IA s’améliorent et deviennent plus aptes à vérifier les faits et à raisonner, ils pourraient accomplir de nombreuses tâches mieux que les humains. Mais il n’est pas encore clair que l’IA puisse créer seule ses propres objectifs fondamentaux. Srinivasan doute que l’IA cesse bientôt d’avoir besoin des humains pour lui donner une direction.

Il relie cette incertitude à la biologie. Les motivations humaines sont enracinées dans des pressions évolutives telles que la survie et la reproduction. À moins que les systèmes d’IA ne puissent se reproduire indépendamment des humains, soutient-il, ils resteront liés aux objectifs définis par leurs créateurs ou propriétaires.

La gouvernance pourrait basculer vers la blockchain, suggère Balaji

L’investisseur esquisse un scénario plus extrême pour tester cette hypothèse. Selon lui, une IA véritablement autonome exigerait le contrôle des infrastructures physiques sans supervision humaine. Cela inclurait :

• Des robots humanoïdes capables d’agir de manière indépendante.
• Des drones opérant sans commande humaine centralisée.
• Des centres de données fonctionnant en dehors des structures d’entreprise ou d’État traditionnelles.
• Des systèmes énergétiques et des chaînes d’assemblage gérés entièrement par la coordination des machines.

Un tel développement « n’est pas techniquement inconcevable », écrit-il, mais les réalités géopolitiques pourraient en influencer l’issue. En Chine, selon lui, les autorités seraient plus enclines à concevoir des systèmes strictement contrôlés plutôt que des systèmes autonomes. Dans cette structure, les robots et agents numériques seraient liés à des identités humaines via des contrôles cryptographiques.

Au-delà de la Chine, Srinivasan voit la cryptographie basée sur la blockchain comme une possible couche de gouvernance pour l’IA. La propriété privée, d’après lui, pourrait de plus en plus prendre la forme de clés privées. Les robots et agents logiciels fonctionneraient comme des extensions de leurs propriétaires, sécurisés par une authentification cryptographique. Dans ce modèle, le contrôle des clés équivaut au contrôle des machines.

Des robots indépendants et non liés seraient considérés comme des risques pour la sécurité plutôt que comme des percées. Les humains et les machines conformes coopéreraient pour empêcher tout système de se reproduire en dehors d’un contrôle autorisé.

Bien que spéculatif, l’argument de Srinivasan rejoint des débats plus larges sur l’alignement de l’IA, la souveraineté numérique et la propriété des infrastructures. Alors que les gouvernements rédigent de nouvelles règles et que les entreprises s’empressent de développer des modèles plus performants, son message à la communauté crypto est clair : sécurisez les clés, et vous sécuriserez les bots.