Sa madaling sabi
- Sinabi ni Harari na dapat maunawaan ang AI bilang mga aktibong autonomous agents sa halip na isang pasibong kasangkapan.
- Nagbabala siya na ang mga sistemang pangunahing nakabatay sa mga salita, kabilang ang relihiyon, batas, at pananalapi, ay mas mataas ang pagkakalantad sa AI.
- Hinimok ni Harari ang mga lider na magpasya kung ituturing ang mga AI system bilang legal na tao bago pa ito mapagpasyahan ng iba para sa kanila.
Nagbabala ang historyador at manunulat na si Yuval Noah Harari sa World Economic Forum noong Martes na nanganganib ang sangkatauhan na mawalan ng kontrol sa wika, na tinawag niyang pangunahing "superpower" nito, habang ang artificial intelligence ay lalong ginagamit sa pamamagitan ng mga autonomous agents kaysa sa mga pasibong kasangkapan.
Ang may-akda ng “Sapiens,” si Harari ay naging madalas na tinig sa mga pandaigdigang talakayan hinggil sa panlipunang epekto ng artificial intelligence. Iginiit niya na ang mga legal na kodigo, pamilihan sa pananalapi, at organisadong relihiyon ay halos ganap na umaasa sa wika, kaya't lalo silang nalalantad sa mga makina na kayang lumikha at manipulahin ang teksto sa malawakang saklaw.
“Nakuha ng mga tao ang pamamayani sa mundo hindi dahil tayo ang pinakamalakas sa pisikal, kundi dahil natutunan nating gamitin ang mga salita upang mapasunod ang libo-libo, milyon-milyon, at bilyon-bilyong hindi magkakakilalang tao,” aniya. “Ito ang ating superpower.”
Tinukoy ni Harari ang mga relihiyong nakabatay sa mga banal na teksto, kabilang ang Judaismo, Kristiyanismo, at Islam, at iginiit na ang kakayahan ng AI na magbasa, magpanatili, at magsintetisa ng napakaraming akda ay maaaring gawing pinaka-awtoritatibong tagapagpaliwanag ng mga banal na kasulatan ang mga makina.
“Kung ang mga batas ay gawa sa mga salita, ang AI ang kukuha ng kontrol sa sistema ng batas,” aniya. “Kung ang mga libro ay kumbinasyon lang ng mga salita, AI ang kukuha ng kontrol sa mga libro. Kung ang relihiyon ay nabuo mula sa mga salita, AI ang kukuha ng kontrol sa relihiyon.”
Sa Davos, inihalintulad din ni Harari ang paglaganap ng mga AI system sa isang bagong anyo ng imigrasyon, at sinabi na ang debate tungkol sa teknolohiyang ito ay malapit nang tumuon sa kung dapat bang bigyan ng mga pamahalaan ang AI system ng legal na pagkatao. Ilang estado, kabilang ang Utah, Idaho, at North Dakota, ay nakapasa na ng mga batas na tahasang nagsasaad na hindi maaaring ituring na tao ang AI sa ilalim ng batas.
Tinapos ni Harari ang kanyang pananalita sa pamamagitan ng babala sa mga lider ng mundo na mabilis na kumilos ukol sa mga batas hinggil sa AI at huwag isiping mananatili itong neutral na tagapaglingkod. Inihalintulad niya ang kasalukuyang pagtutulak na gamitin ang teknolohiya sa mga makasaysayang kaso kung saan ang mga mersenaryo ay kalaunang kumuha ng kapangyarihan.
“Pagkalipas ng sampung taon, huli na para magpasya kayo kung dapat bang gumana ang AI bilang mga tao sa merkado ng pananalapi, sa mga korte, sa mga simbahan,” aniya. “May magpapasya na para sa inyo. Kung gusto ninyong maimpluwensiyahan ang tatahakin ng sangkatauhan, kailangan ninyong magpasya ngayon.”
Maaaring matindi ang dating ng mga komento ni Harari para sa mga natatakot sa paglawak ng AI, ngunit hindi lahat ay sumang-ayon sa kanyang pananaw. Sinabi ni Propesor Emily M. Bender, isang lingguwista mula sa University of Washington, na ang pagposisyon sa mga panganib tulad ng ginawa ni Harari ay naglilihis lamang ng atensyon mula sa mga taong gumagawa at nagpapatupad ng mga AI system.
“Para sa akin, tila ito ay pagsisikap na ilihis ang mga aksyon ng mga tao at kumpanyang gumagawa ng mga sistemang ito,” sabi ni Bender sa
Tinanggihan ni Bender ang ideya na ang “artificial intelligence” ay naglalarawan ng malinaw o neutral na kategorya ng teknolohiya.
“Ang terminong artificial intelligence ay hindi tumutukoy sa isang magkakaugnay na set ng mga teknolohiya,” aniya. “Ito ay, sa katunayan, at palaging naging isang marketing term,” dagdag pa niya na ang mga sistemang idinisenyo upang gayahin ang mga propesyonal tulad ng mga doktor, abogado, o pari ay walang lehitimong gamit.
“Ano ang layunin ng isang bagay na kayang magsalita na parang isang doktor, abogado, o pari, at iba pa?” ani Bender. “Ang layunin diyan ay panlilinlang. Wala ng iba.”
Habang itinuro ni Harari ang lumalaking paggamit ng AI agents upang pamahalaan ang mga bank account at ugnayang pang-negosyo, sinabi ni Bender na ang panganib ay nasa kung gaano kadaling magtiwala ang mga tao sa mga output ng makina na mukhang awtoritatibo—ngunit walang pananagutan ng tao.
“Kung mayroon kang sistema na maaari mong tanungin at may babalik na bagay na mukhang sagot—na inalisan ng konteksto at pananagutan para sa sagot, ngunit inilalagay na nagmula sa isang parang all-knowing oracle—makikita mo kung bakit gugustuhin ng mga tao na umiiral iyon,” ani Bender. “Sa tingin ko malaking panganib na dito huhugot ng direksyon ang mga tao at gagamitin ang output na iyon upang hubugin ang kanilang sariling mga ideya, paniniwala, at gawain.”
