Ambisi Pasar AI Senilai Rp7 Kuadriliun Kalahkan Prioritas Keselamatan

JAKARTA — Persaingan dominasi kecerdasan buatan (AI) yang melibatkan berbagai laboratorium riset, perusahaan teknologi raksasa, dan negara-negara besar di dunia dinilai semakin sulit diselaraskan dengan upaya memperkuat keselamatan AI alias AI safety. Kondisi ini menimbulkan kekhawatiran mendalam di kalangan pengamat industri bahwa aspek keselamatan akan selalu menjadi prioritas nomor dua di bawah ambisi penguasaan pasar.

Sejumlah sumber di dalam industri menyatakan kepada media bahwa dorongan untuk mempercepat inovasi demi meraih posisi terdepan jauh lebih besar dibandingkan komitmen untuk memperlambat laju pengembangan teknologi tersebut. Padahal, perusahaan-perusahaan AI terkemuka secara terbuka mengusulkan mekanisme pengawasan independen serta penggunaan penilai pihak ketiga untuk memastikan model mereka berperilaku sesuai standar yang ditetapkan.

Insentif Ekonomi yang Terlalu Besar

Kritik utama terletak pada besarnya insentif finansial yang menanti para pelaku industri. Nilai ekonomi yang dipertaruhkan dalam perlombaan AI global disebut mencapai angka fantastis, sehingga mendorong perusahaan untuk terus mendobrak batas kemampuan teknologi, bahkan ketika seruan perlambatan semakin menguat.

Alih-alih menahan diri, perusahaan justru berada di bawah tekanan untuk menghadirkan model yang semakin canggih secara berkelanjutan guna membenarkan valuasi mereka yang sangat tinggi. Situasi ini menciptakan paradoks: makin besar skala yang ingin dicapai, makin besar pula modal yang dibutuhkan, dan makin kecil kemungkinan untuk mengerem laju pengembangan.

• Perusahaan AI terkemuka tengah bersiap melakukan penawaran saham perdana dengan valuasi mencapai triliunan dolar, sehingga mereka dituntut terus menawarkan model yang lebih baik secara berkala.
• Lebih dari 7 triliun dolar Amerika Serikat diproyeksikan akan dibelanjakan untuk memperbesar skala infrastruktur AI dalam lima tahun ke depan.
• Tingkat kompleksitas sistem AI yang semakin tinggi, ditambah penerapan ribuan agen semi-otonom, membuat audit dan pengawasan waktu nyata menjadi sangat sulit dilakukan.

Kesenjangan Kepercayaan terhadap Evaluator Independen

Masalah lain yang memperumit situasi adalah adanya kesenjangan kepercayaan terhadap lembaga evaluasi keselamatan independen. Kekhawatiran muncul karena adanya kedekatan hubungan antara industri dan sebagian penilai, serta adanya kesamaan investor dan penyandang dana dalam ekosistem riset AI.

Kondisi ini membuat hasil evaluasi keselamatan dipertanyakan netralitasnya. Ketika lembaga yang seharusnya mengawasi justru memiliki kepentingan yang tumpang tindih dengan pihak yang diawasi, efektivitas pengawasan menjadi lemah.

“Mekanisme pengawasan mandiri dan evaluasi pihak ketiga terdengar meyakinkan di atas kertas, tetapi sulit diwujudkan ketika insentif pasar jauh lebih kuat daripada insentif keselamatan,” ujar seorang pengamat industri AI yang enggan disebutkan namanya.

Transparansi Model yang Menurun

Ironi lain yang mencuat adalah ketika para pemimpin perusahaan AI gencar mempromosikan mekanisme pengawasan mandiri, model-model terbaru mereka justru semakin tertutup dalam mengungkap cara mereka menjawab pertanyaan dan menyelesaikan masalah. Tingkat keterbukaan ini menurun dibandingkan generasi model sebelumnya, sehingga menyulitkan pihak luar untuk melakukan verifikasi.

Dengan kompleksitas yang terus meningkat dan penerapan agen otonom dalam berbagai tugas, kemungkinan melakukan audit atau peninjauan secara langsung terhadap perilaku sistem AI menjadi semakin kecil. Hal ini menciptakan celah besar dalam upaya menjamin keselamatan teknologi yang semakin kuat dan menyebar luas.

Para pengamat menilai perlombaan dominasi AI antara laboratorium, perusahaan, dan negara memang sulit didamaikan dengan dorongan keselamatan. Selama gelombang uang triliunan dolar masih mengalir deras dan valuasi menjadi ukuran keberhasilan, keselamatan AI dikhawatirkan akan selalu berada di kursi belakang dibandingkan ambisi menguasai pasar global.