Більшість обговорень у криптоіндустрії зосереджені на ціні, продуктивності та безпеці. Загальноприйнято вважати, що як тільки технологія стане достатньо безпечною, все інше налагодиться само собою.
Але нещодавно співзасновник Ethereum Vitalik Buterin повертає дискусію до більш фундаментального питання.
Чи дійсно ці системи працюють в інтересах користувача?
Безпека — це про намір
У своєму останній публікації в X Бутерін зазначив, що безпека полягає в зменшенні розриву між тим, чого хоче користувач, і тим, що система насправді робить.
Як він висловився,
«Мета — мінімізувати розбіжності між наміром користувача та фактичною поведінкою системи».
Джерело: X
Це звучить очевидно, але також переводить дискусію в інше русло. Сьогодні безпека полягає в розумінні того, що людські наміри часто неможливо повністю закодувати.
Навіть така проста дія, як відправка Ether [ETH], приховує неявні припущення. Чи правильна адреса? Чи дійсно нею володіє потрібна людина? Якщо відбудеться форк, яка версія ETH є «справжньою»?
Багато чого з того, на що ми покладаємось, належить до здорового глузду. Але машинам це зробити нелегко, чи не так? Однак і тут є межі.
Бутерін особливо наголосив,
«Ідеальна безпека» неможлива… оскільки «наміри користувача» за своєю суттю є надзвичайно складним об'єктом».
У Інтернету така ж проблема
Бутерін бачить схожу проблему в сучасній економіці творців. ШІ може генерувати необмежену кількість контенту. Публікувати просто. Виконувати просто. Вузьке місце — це судження.
«Проблема — якість. Тому ваша мета не стимулювати контент, а виводити на поверхню якісний контент».
Це та сама проблема, яку він визначив у безпеці крипто. Інтернет публікує все; крипто виконує все. Жоден з них не розуміє контексту за замовчуванням.
Саме тому такі платформи, як Substack, привернули його увагу. Їхня цінність у тому, щоби піднімати правильний контент через кураторство, судження та узгодження.
Все частіше викликом стає створення систем, які розуміють, над чим варто працювати.
Це питання наміру…
…стає значно серйознішим у добу ШІ. Він діє, ухвалює рішення і взаємодіє самостійно.
Бутерін нещодавно зазначив, що справжня проблема не в тому, наскільки потужним стане ШІ, а в тому, хто ним керує і як перевіряється його поведінка. Мета — спрямувати його розвиток.
Застерігаючи від систем, які концентрують владу чи діють поза людським контролем, він написав,
«Я хочу майбутнє з ШІ, де ми сприяємо свободі та посиленню людини…»
Джерело: X
Ось тут Ethereum і стає у пригоді як інфраструктура навколо цього. Нейтральний рівень, де ШІ-системи можуть здійснювати платежі, підтверджувати дії та будувати репутацію прозоро.
Уявіть собі це. ШІ-агенти можуть платити за послуги, взаємодіяти з іншими агентами або розміщувати гарантійні депозити в ланцюгу. Ці дії створюють відповідальність, а їх поведінка стає відслідковуваною. Довіра, у свою чергу, стає такою, що перевіряється.
Як пояснив Бутерін, мета — зробити «бездовірчу та/або приватну взаємодію з ШІ можливою».
AMBCrypto раніше повідомляв, що Бутерін запропонував особистих ШІ-агентів для вирішення втоми від голосування в DAO.
Замість того, щоб користувачі самостійно голосували за кожну пропозицію, приватні ШІ-моделі, навчені на їхніх уподобаннях, могли б голосувати від їх імені.
Він зазначив, що «звичайне рішення — делегування — позбавляє сили», особливо коли участь падає, а влада концентрується у великих власників.
У міру того, як ШІ розширює можливості машин, хто гарантує, що вони діють так, як би хотіли користувачі?
Коли системи оптимізують не те
Ось інший приклад подібної проблеми.
