Apakah era berbayar untuk agen AI akan datang? Perusahaan perangkat lunak mempertimbangkan bagaimana menghadapi risiko AI

　　Penulis: Kevin McLaughlin, Aaron Holmes, Nick Wingfield

　　Bagaimana agen AI akan mengguncang industri perangkat lunak, ketidakpastian ini sedang membuat para investor meragukan masa depan industri tersebut. Pernyataan terbaru dari seorang eksekutif perangkat lunak mengungkapkan salah satu cara perusahaan merespons kegilaan agen AI eksternal yang mengambil data secara besar-besaran.

　　Awal bulan ini, dalam konferensi telepon investor perusahaan perangkat lunak HubSpot, seorang analis Wall Street menanyakan kepada CEO Yamini Rangan sebuah pertanyaan yang hampir dipikirkan semua orang yang mengamati industri perangkat lunak secara dekat:

　　Jika pelanggan menggunakan agen AI untuk mengekstrak data dari perangkat lunak manajemen pelanggan HubSpot, lalu menganalisisnya dengan AI dari vendor lain, apa yang akan dilakukan HubSpot?

　　“Kami akan memonitor, mengukur, dan mengkomersialkannya.”

　　Rangan menjawab, “Platform kami... secara desain terbuka, tapi kami bukan saluran data gratis untuk semua orang mengambil informasi seenaknya.”

　　Ini adalah peringatan langsung dari seorang CEO industri perangkat lunak di tengah bayang-bayang paling suram dalam sejarah industri ini. Sejak awal tahun, hampir seluruh saham perusahaan perangkat lunak utama mengalami penurunan tajam dari investor, dengan banyak perusahaan seperti Salesforce, Snowflake, Palantir mengalami penurunan harga saham sebesar 20%-30%.

　　Pasar khawatir bahwa agen AI yang dapat menyelesaikan tugas komputasi tanpa campur tangan manusia sebenarnya bisa menjadi "super user" yang jauh lebih efisien daripada manusia, sehingga mengurangi kebutuhan lisensi pengguna perangkat lunak per individu.

　　Pernyataan Rangan mengisyaratkan strategi yang dapat diambil para eksekutif perangkat lunak untuk melindungi data dari agen eksternal. Ini berarti perusahaan mereka mungkin akan menerapkan batasan berbayar pada data pelanggan, sangat kontras dengan pola sebelumnya di mana sebagian besar perusahaan perangkat lunak membiarkan data mengalir bebas antar aplikasi.

　　Dalam kasus lain, para eksekutif perangkat lunak juga semakin menekankan bahwa membiarkan agen mengakses data dan aplikasi perusahaan yang sensitif dapat membawa risiko keamanan.

　　Salah satu skenario yang sering disebut adalah:

　　Peretas bisa menipu agen untuk menjalankan instruksi berbahaya di halaman web dan email, sehingga memperoleh dokumen internal; agen yang salah konfigurasi bahkan bisa menghapus kode yang menjadi tulang punggung bisnis perusahaan. Bahkan Elon Musk, yang mendirikan perusahaan AI xAI, pada hari Senin juga bercanda bahwa membiarkan alat agen open-source seperti OpenClaw terlibat tanpa batas ke dalam kehidupan digital pribadi sangatlah berisiko.

　　CEO Figma, perusahaan perangkat lunak desain, Dylan Field, pekan lalu mengatakan kepada investor dalam panggilan laporan keuangan:

　　“Jika Anda mau menyerahkan tugas penting kepada agen, lalu... membiarkan mereka menjalankan tugas tanpa pengawasan, Anda benar-benar sangat berani. Tapi bercanda saja, saya rasa manusia tetap akan terus menggunakan perangkat lunak, dan penggunaan agen juga akan semakin banyak.”

　　Sementara itu, para eksekutif perusahaan perangkat lunak tradisional berusaha menampilkan kepercayaan diri kepada investor dan karyawan.

　　Awal bulan ini, CEO divisi bisnis Microsoft, Judson Althoff, mengirim memo kepada tim penjualan, mengingatkan karyawan tentang keunggulan Microsoft dibandingkan startup AI seperti OpenAI. CEO ServiceNow Bill McDermott dan CEO Atlassian Michael Cannon-Brookes sama-sama membatalkan rencana penjualan saham yang telah dijadwalkan sebelumnya, sebagai sinyal optimisme terhadap masa depan perusahaan mereka.

　　Dalam beberapa kasus, pendiri perusahaan perangkat lunak kembali turun tangan untuk memberikan urgensi pada transformasi AI di perusahaan.

　　Awal bulan ini, Workday, perusahaan perangkat lunak SDM dan keuangan yang harga sahamnya turun 37% tahun ini, mengumumkan bahwa co-founder dan mantan CEO Aneel Bhusri menggantikan CEO saat ini Carl Eschenbach. Dalam wawancara dengan CNBC bulan lalu, Eschenbach mengatakan, “AI adalah angin yang mendukung kami, bukan hambatan.” Workday menolak mengatur wawancara dengan Bhusri.

　　Bahkan sebelum gejolak industri saat ini, keraguan tentang bagaimana AI akan mempengaruhi industri perangkat lunak sudah menguat.

　　Pendukung AI pernah mengklaim bahwa perusahaan akan segera dapat meninggalkan perangkat lunak perusahaan dari vendor lain dengan membangun sistem sendiri menggunakan alat coding AI. Kekhawatiran lain yang menekan industri: AI mungkin menyebabkan puncak dalam pekerjaan kerah putih, yang pada gilirannya melemahkan permintaan perangkat lunak tradisional.

　　Dalam beberapa minggu terakhir, dua raksasa AI, OpenAI dan Anthropic, merilis produk dan fitur agen baru secara intensif, semakin memicu kecemasan investor terhadap nasib industri perangkat lunak.

　　Pada Januari, Anthropic meluncurkan preview Claude Cowork, agen yang dapat mengambil alih mouse dan keyboard pengguna, berinteraksi dengan aplikasi, dan menyelesaikan tugas seperti memperbarui Excel.

　　Awal Februari, setelah Anthropic merilis fitur baru untuk menangani tinjauan dokumen hukum, perencanaan kampanye pemasaran, dan lainnya, harga saham perusahaan seperti Salesforce, HubSpot, dan Thomson Reuters anjlok.

　　Anthropic awalnya dijadwalkan mengadakan acara online pada Selasa untuk membahas agen AI perusahaan, dan berita ini sudah memicu aksi jual saham perangkat lunak pada hari Senin.

　　Peluncuran Frontier oleh OpenAI — alat manajemen yang membantu perusahaan menggunakan agen AI secara massal dan mengotomatiskan tugas lintas perangkat lunak — semakin mengguncang kepercayaan investor perusahaan perangkat lunak.

　　Mitra Endurance Capital di San Francisco, sekaligus investor teknologi senior, David Readerman mengatakan:

　　“Inovasi besar-besaran yang dipicu oleh dua perusahaan swasta inilah yang menyebabkan disrupsi besar di pasar saham publik.”

　　Memperketat Kontrol

　　Perusahaan perangkat lunak harus menyeimbangkan secara hati-hati dalam merespons agen AI.

　　Selama lebih dari dua dekade, perusahaan perangkat lunak berbasis langganan mengizinkan pelanggan memindahkan data antar aplikasi melalui API (Application Programming Interface), meski berbagi data ini juga menguntungkan pesaing.

　　Misalnya, pelanggan yang menggunakan HubSpot dan Salesforce bisa menyinkronkan catatan prospek penjualan melalui API. Interoperabilitas data antar platform membantu perusahaan perangkat lunak mempertahankan pelanggan karena menghilangkan kekhawatiran pengguna akan terjebak oleh satu vendor.

　　Namun, pernyataan CEO HubSpot mengisyaratkan bahwa era pertukaran data gratis mungkin segera berakhir.

　　Ini bertentangan dengan citra perusahaan yang sudah hampir 20 tahun dikenal dengan kebijakan data terbuka.

　　Setiap langkah seperti ini bisa memicu reaksi balik dari pelanggan.

　　Mei tahun lalu, Salesforce dikritik karena memblokir pihak ketiga seperti Glean untuk menyimpan data pelanggan Slack di produknya, meski dampak keputusan ini pada bisnisnya (jika ada) masih belum jelas.

　　George Fraser, co-founder dan CEO Fivetran (perusahaan rintisan yang menawarkan perangkat lunak replikasi data lintas aplikasi dan database) mengatakan:

　　“Jika HubSpot atau perusahaan lain membatasi akses data, itu artinya mereka berkonflik dengan pelanggan mereka sendiri — terutama pelanggan besar, dan ini bisa menjadi bencana bagi mereka.”

　　Sunil Desai, Wakil Presiden Senior Marketing HubSpot, dalam pernyataan email menolak memberikan detail lebih lanjut tentang biaya akses data kepada mitra, dan juga menolak permintaan wawancara dengan Rangan.

　　Desai mengatakan, “HubSpot dibangun di atas platform terbuka — itu tidak akan berubah. Visi kami adalah memberikan lebih banyak, bukan lebih sedikit, akses informasi kepada pelanggan dan mitra.”

　　Namun, tidak ada perusahaan perangkat lunak tingkat perusahaan yang dapat sepenuhnya mengendalikan semua agen AI yang mengakses layanannya.

　　Misalnya, AI yang dipromosikan OpenClaw yang dapat mengambil alih komputer pengguna, karena perilakunya meniru pengguna manusia, sulit dideteksi oleh penyedia aplikasi.

　　Selain itu, eksekutif perangkat lunak yang menempatkan hambatan untuk agen AI dapat dianggap anti-inovasi atau menyinggung perusahaan AI yang menyediakan lisensi model untuk aplikasi mereka.

　　Bill McDermott dari ServiceNow, saat membahas OpenAI dan Anthropic, mengatakan:

　　“Menurut saya, persaingan hanya ada di imajinasi orang, karena apa yang kami lakukan berbeda, dan itulah mengapa kami bekerja sama. Kami semua orang pintar, jika mereka ingin menghancurkan Anda, mengapa kami harus bekerja sama?”

　　Namun menurut orang yang mengetahui, dalam presentasi OpenAI kepada investor pekan lalu, manajemen menyatakan:

　　Produk dan agen untuk perusahaan di masa depan diperkirakan akan menggantikan perusahaan perangkat lunak seperti Salesforce, Workday, Adobe, Atlassian, dan lain-lain.

　　ServiceNow, yang fokus pada perangkat lunak otomatisasi IT internal, SDM, dan keuangan, masih yakin memiliki keunggulan dibandingkan laboratorium AI — terutama dalam pemahaman mendalam tentang kebutuhan pelanggan perusahaan besar, termasuk workflow (seperti proses onboarding karyawan baru).

　　Dua karyawan saat ini menyebutkan, ServiceNow memiliki pengalaman lebih dalam membantu pelanggan melindungi data mereka secara patuh dan mengurangi risiko kebocoran.

　　CEO Notion Ivan Zhao percaya, penyedia perangkat lunak harus mendesain ulang produk mereka agar agen AI dapat mengakses dan mendapatkan data yang diperlukan untuk menyelesaikan tugas.

　　Ia mengatakan pekan lalu di sebuah podcast: “Jika produk Anda tidak bisa digunakan oleh agen AI, saya rasa masa depannya tidak akan cerah.”

　　Pertarungan di Garis Depan Baru

　　Demikian pula, Microsoft juga tidak boleh tertinggal dalam persaingan menjadi “platform pilihan utama agen AI”.

　　Microsoft bekerja sama dengan Anthropic dan OpenAI, bersama-sama menjual model ke pelanggan dan mengintegrasikan teknologi mereka ke produk Microsoft.

　　Namun di internal Microsoft, karyawan memiliki reaksi campur aduk terhadap produk terbaru OpenAI dan Anthropic, antara skeptis dan cemas.

　　Bulan lalu, peluncuran Cowork dari Anthropic mengguncang internal Microsoft, dengan beberapa kepala produk menerbitkan memo yang membahas bagaimana produk Microsoft dapat bersaing dengan penantang baru tersebut.

　　Microsoft juga memantau OpenClaw secara dekat, dan sebuah memo internal menyebutkan risiko keamanan produk tersebut, namun juga memuji bahwa produk itu **“membuat kemampuan agen menjadi instan dan personal”**. (OpenAI baru-baru ini merekrut pengembang OpenClaw, Peter Steinberger, untuk memimpin bisnis agen mereka.)

　　Setelah OpenAI meluncurkan Frontier, Althoff mengirim memo kepada tim penjualan dengan poin-poin mengapa produk Microsoft lebih cocok bagi perusahaan besar.

　　Ada alasan lain mengapa Microsoft tidak senang dengan langkah OpenAI ini:

　　Sejak akhir tahun lalu, “Frontier” sudah menjadi slogan inti pemasaran alat AI Microsoft untuk perusahaan besar. Menurut dua karyawan penjualan Microsoft, manajer penjualan kini mengeluh bahwa jika tetap menggunakan kata ini, pelanggan akan bingung dengan Frontier milik OpenAI.

　　Juru bicara Microsoft dalam pernyataan menyebutkan, pelanggan dapat memilih menghubungkan agen AI pihak ketiga apa pun ke data Microsoft, dan Microsoft **“mendukung ekosistem agen terbuka, akses data dikelola oleh kepercayaan dan kebijakan pelanggan, bukan vendor”**.

　　Mengurangi Pengeluaran Perangkat Lunak

　　Meski persaingan antara produk AI baru dan aplikasi tradisional belum jelas pemenangnya, beberapa pelanggan sudah menyatakan bahwa mereka menggunakan agen AI untuk mengurangi ketergantungan pada perangkat lunak tradisional.

　　Sebagai contoh, Valvoline, retailer otomotif dengan pendapatan tahunan 1,7 miliar dolar, menurut pejabat keamanan informasinya Corey Kaemming, tim IT telah menggunakan AI untuk mengotomatiskan pekerjaan keamanan siber.

　　Valvoline telah lama menggunakan perangkat lunak endpoint CrowdStrike untuk memantau penggunaan perangkat dan akun oleh karyawan, serta menandai login atau akun tidur yang mencurigakan.

　　Kaemming mengatakan, perusahaan menggunakan agen AI dari perusahaan rintisan Torq untuk menghindari pembelian alat tambahan CrowdStrike (alat ini dapat secara otomatis membersihkan akun yang perlu dikunci, seperti akun tidur).

　　Ia menyebutkan, agen Torq menggunakan model dari laboratorium seperti OpenAI dan Anthropic untuk menganalisis data login mentah dari perangkat lunak Microsoft, dan secara otomatis menyelesaikan pekerjaan pembersihan serupa.

　　Ia memperkirakan, Valvoline menghemat sekitar 115.000 dolar — biaya produk CrowdStrike adalah di atas 60-180 dolar per pengguna per bulan.

　　Juru bicara CrowdStrike menyatakan, perusahaan mengizinkan pelanggan menghubungkan perangkat lunak mereka dengan alat AI seperti Torq, “Integrasi ini bertujuan untuk memperkuat, bukan menggantikan, visibilitas mendalam dan kemampuan pertahanan ancaman identitas asli dari platform CrowdStrike Falcon”.

　　Kaemming mengatakan:

　　“Ini jelas mengurangi ketergantungan kami pada... CrowdStrike. Kami belum sepenuhnya berhenti menggunakan perangkat lunaknya, tapi tidak lagi membutuhkan banyak karyawan untuk menggunakannya.” Ia memperkirakan, perangkat lunak Torq menghemat Valvoline lebih dari 250.000 dolar per tahun, terutama karena setidaknya mengurangi dua staf keamanan.

Editor: Guo Mingyu