La plupart des conversations dans la crypto se concentrent sur le prix, la performance et la sécurité. L’opinion répandue est que, dès que la technologie sera suffisamment sécurisée, tout le reste se mettra en place.
Mais récemment, le co-fondateur d’Ethereum Vitalik Buterin a ramené la discussion à une question plus fondamentale.
Est-ce que ces systèmes fonctionnent réellement dans l’intérêt des utilisateurs ?
La sécurité concerne l’intention
Dans sa dernière publication sur X, Buterin note que la sécurité consiste à réduire l’écart entre ce que veulent les utilisateurs et ce que le système fait réellement.
Comme il l’explique,
« L’objectif est de minimiser la divergence entre l’intention de l’utilisateur et le comportement réel du système. »
Source : X
Cela semble évident, mais cela oriente également la conversation de manière importante. Aujourd’hui, la sécurité consiste à comprendre que l’intention humaine est souvent impossible à coder complètement.
Même une action simple comme envoyer un Ether [ETH] implique des hypothèses cachées. L’adresse est-elle correcte ? Est-elle vraiment contrôlée par la bonne personne ? S’il y a un fork, quelle version d’ETH est la “vraie” ?
Beaucoup de ce sur quoi nous comptons relève du bon sens. Ce n’est pas si facile à réaliser pour des machines, n’est-ce pas ? Cependant, il existe aussi des limites.
Buterin a pris soin de préciser que,
« Une sécurité parfaite est impossible… car 'l’intention de l’utilisateur' est fondamentalement un objet extrêmement complexe. »
Internet a le même problème
Buterin constate un problème similaire dans l’économie des créateurs d’aujourd’hui. L’IA peut générer un contenu illimité. Publier est facile. L’exécution est facile. Le goulot d’étranglement est le jugement.
« Le problème, c’est la qualité. Donc votre objectif n’est pas d’inciter à la création de contenu, mais de faire émerger du bon contenu. »
C’est le même problème qu’il a identifié dans la sécurité de la crypto. Internet publie tout ; la crypto exécute tout. Aucun ne comprend fondamentalement le contexte.
C’est pourquoi des plateformes comme Substack retiennent son attention. Leur valeur réside dans le fait de mettre en avant le bon contenu grâce à la curation, au jugement et à l’alignement.
De plus en plus, le défi est de construire des systèmes qui comprennent ce qui mérite d’être réalisé.
Cette question de l’intention…
…devient beaucoup plus sérieuse à l’ère de l’IA. Elle agit, décide et interagit de manière autonome.
Buterin a récemment mentionné que le vrai enjeu n’est pas la puissance de l’IA, mais qui la contrôle et comment son comportement est vérifié. L’objectif est d’orienter sa direction.
En mettant en garde contre des systèmes qui concentrent le pouvoir ou fonctionnent au-delà de la supervision humaine, il écrit,
« Je veux un futur de l’IA où l’on favorise la liberté et l’émancipation humaines… »
Source : X
C’est là qu’Ethereum trouve sa place, comme infrastructure autour de lui. Une couche neutre où les systèmes d’IA peuvent effectuer des paiements, prouver des actions et bâtir une réputation de manière transparente.
Pensez-y. Des agents IA pourraient payer des services, interagir avec d’autres agents ou déposer des garanties sur la blockchain. Ces actions créent de la responsabilité, dont le comportement devient traçable. La confiance, en retour, devient vérifiable.
Comme l’explique Buterin, l’objectif est de rendre « possible une interaction sans confiance et/ou privée avec des IA ».
AMBCrypto a déjà rapporté que Buterin a proposé des agents IA personnels pour résoudre la fatigue du vote dans les DAO.
Au lieu que les utilisateurs votent manuellement sur chaque proposition, des modèles d’IA privés entraînés sur leurs préférences pourraient voter en leur nom.
Il a noté que « la solution habituelle, la délégation, est démotivante », surtout lorsque la participation baisse et que le pouvoir se concentre chez les gros détenteurs.
À mesure que l’IA étend ce que les machines peuvent faire, qui garantit qu’elles agissent réellement comme le feraient les utilisateurs ?
Quand les systèmes optimisent les mauvaises choses
Voici un autre exemple du même ordre.
