CEO Anthropic Dario Amodei menyuarakan kekhawatiran besar terkait sentralisasi otoritas yang tiba-tiba dan tidak disengaja di sektor AI

Kebangkitan Kekuatan Korporasi: Dari Zaman Gilded hingga Era AI

Pada Zaman Gilded, dominasi para taipan industri seperti Cornelius Vanderbilt menunjukkan pengaruh luar biasa yang dapat dimiliki oleh korporasi. Jangkauan mereka begitu luas sehingga, pada 18 November 1883—yang dijuluki “Hari Dua Tengah Hari”—perusahaan kereta api di AS dan Kanada menstandarisasi waktu dengan memperkenalkan empat zona waktu utama di seluruh Amerika Utara. Pergeseran dramatis ini menggantikan tambal sulam waktu lokal sebelumnya, sehingga banyak jam berdentang tengah hari dua kali dalam satu hari.

Pemain Kekuatan Baru di AI dan Kegelisahan yang Meningkat

Saat ini, gelombang baru konsentrasi kekuasaan sedang muncul seiring dengan pesatnya perkembangan kecerdasan buatan. Bahkan beberapa tokoh terkemuka di bidang ini, seperti CEO Anthropic Dario Amodei, telah menyuarakan ketidaknyamanan mereka atas betapa cepat dan tak terduganya pengaruh telah tersentralisasi di tangan segelintir pihak.

Berbicara dengan investor India dan pembawa acara podcast Nikhil Kamath di podcast WTF Is, Amodei mengaitkan akumulasi kekuasaan di antara beberapa perusahaan AI sebagian karena faktor keberuntungan. “Ada unsur acak tentang bagaimana sekelompok kecil akhirnya memimpin perusahaan-perusahaan yang tumbuh sangat cepat ini, yang akan membentuk sebagian besar ekonomi di masa mendatang,” jelasnya.

Amodei secara terbuka mengakui kekhawatirannya: “Saya sudah mengatakan secara publik, dan bukan untuk pertama kalinya, bahwa saya setidaknya agak gelisah tentang sejauh mana kekuasaan terkonsentrasi di sini. Ini terjadi hampir dalam semalam, hampir secara kebetulan.”

Kekayaan, Pengaruh, dan Revolusi AI

Amodei secara konsisten memperingatkan tentang risiko konsolidasi kekuasaan seiring kemajuan teknologi AI. Pada bulan Januari, ia menerbitkan esai sepanjang 20.000 kata berjudul “The Adolescence of Technology,” yang menyoroti bahaya dari sistem yang memungkinkan segelintir orang mengumpulkan kekayaan hingga triliunan dan memiliki pengaruh politik yang tidak proporsional. Dalam esai yang sama, Amodei dan enam cofounder Anthropic berkomitmen untuk menyumbangkan 80% kekayaan mereka, didorong oleh kekhawatiran terhadap dampak sosial dari konsentrasi kekayaan yang sangat ekstrim.

Saat ini, sejumlah kecil laboratorium AI di AS dan China mendominasi bidang ini, dan pengumuman mereka dapat mengguncang pasar keuangan. Misalnya, ketika Anthropic baru-baru ini memperkenalkan Claude Cowork—platform dengan alat khusus untuk industri seperti penjualan dan keuangan—hal tersebut memicu penjualan besar-besaran saham perangkat lunak, karena investor khawatir teknologi baru ini dapat mengganggu sektor perangkat lunak-sebagai-layanan.

Investasi yang meroket pada AI semakin memperkaya individu-individu terkaya. Menurut Financial Times, para miliarder teknologi AS diperkirakan mengalami kenaikan kekayaan bersih kolektif sebesar $550 miliar pada tahun 2025. Tahun lalu, pemegang saham Tesla menyetujui paket kompensasi senilai $1 triliun untuk CEO Elon Musk, menempatkannya di jalur menuju status triliuner pertama di dunia.

Mengantisipasi Gelombang Besar AI

Amodei memprediksi bahwa pengaruh AI akan segera melonjak secara dramatis, mengibaratkan kedatangannya seperti tsunami di cakrawala. “Ini seperti tsunami yang datang ke arah kita,” ujarnya. “Ini sangat dekat hingga kita bisa melihatnya di cakrawala.”

Anthropic berada di garis depan transformasi ini, baru-baru ini meluncurkan solusi enterprise baru untuk sektor seperti sumber daya manusia dan perbankan investasi, selain plug-in untuk penjualan dan keuangan.

Meski terjadi kemajuan, Amodei memperingatkan bahwa banyak orang masih meremehkan potensi dan risiko sebenarnya dari AI. “Orang-orang terus membuat rasionalisasi: ‘Itu sebenarnya bukan tsunami—itu hanya ilusi,’” ujarnya.

Meskipun tampak tidak biasa bagi CEO perusahaan teknologi terkemuka untuk mengeluarkan peringatan semacam itu, Amodei bersikeras bahwa motivasinya adalah rasa tanggung jawab, bukan keuntungan finansial. “Menyoroti risiko bukan demi kepentingan komersial kami,” katanya. “Menunjukkan bahwa model kami bisa berbahaya bukanlah taktik pemasaran, dan itu bukan alasan kami melakukannya.”