GLOBAL — Pakar Peringatkan Bahaya Kecerdasan Buatan bagi Kelangsungan Hidup Manusia

Kekhawatiran global terhadap perkembangan kecerdasan buatan (Artificial Intelligence/AI) kian memuncak. Kalangan ilmuwan terkemuka, peneliti teknologi, hingga pembuat kebijakan kini menyuarakan peringatan keras mengenai potensi bahaya eksistensial yang dibawa oleh AI canggih. Peringatan ini membangkitkan kembali memori historis ketika para fisikawan terkemuka era 1940-an mengkhawatirkan daya hancur bom atom terhadap peradaban manusia.

Kutipan legendaris J. Robert Oppenheimer yang mengutip kitab suci Hindu, "Now I am become Death, the destroyer of worlds", kini kembali relevan dalam wacana revolusi komputasi modern. Sejumlah tokoh pelopor AI bahkan secara terbuka membandingkan lompatan kemampuan sistem generatif saat ini dengan fase awal penemuan energi nuklir yang memerlukan pengawasan ketat tingkat internasional.

Kronologi Meningkatnya Peringatan Risiko Eksistensial AI

Peringatan terhadap ancaman teknologi disruptif ini bukanlah hal baru, melainkan akumulasi kekhawatiran ilmiah yang berkembang pesat dalam beberapa dekade terakhir:

1. Juli 1945: Uji coba nuklir Trinity memicu kesadaran moral para ilmuwan dunia tentang tanggung jawab kemanusiaan atas teknologi berdaya hancur massal yang baru diciptakan.
2. Maret 2023: Ribuan pakar teknologi, termasuk Elon Musk dan Steve Wozniak, menandatangani petisi terbuka yang menuntut jeda selama 6 bulan dalam pelatihan sistem AI yang lebih kuat dari GPT-4.
3. Mei 2023: Center for AI Safety (CAIS) merilis pernyataan bersama yang ditandatangani ratusan tokoh industri, menyatakan bahwa mitigasi risiko kepunahan akibat AI harus menjadi prioritas global setara dengan risiko pandemi dan perang nuklir.
4. Periode 2024–2026: Berbagai forum internasional, termasuk AI Safety Summit dan inisiatif PBB, mulai merumuskan kerangka kerja mengikat untuk menguji model frontier AI sebelum dirilis ke publik.

"Mengurangi risiko kepunahan akibat kecerdasan buatan harus menjadi prioritas global bersama risiko skala sosial lainnya seperti pandemi dan perang nuklir."

Langkah Pengawasan dan Regulasi Global

Menanggapi potensi risiko yang tak terkendali, komunitas global kini bergerak cepat untuk menyusun instrumen hukum dan standar keselamatan. Terdapat konsensus bahwa regulasi ketat perlu diterapkan tanpa mematikan inovasi riset yang bermanfaat bagi kesejahteraan masyarakat.

Beberapa langkah strategis yang tengah diupayakan oleh berbagai negara dan institusi internasional meliputi:

• Penerapan Regulasi Ketat: Implementasi kerangka hukum seperti EU AI Act yang mengklasifikasikan sistem AI berdasarkan tingkat risiko, mulai dari risiko minimal hingga sistem terlarang.
• Audit dan Pengujian Keamanan: Kewajiban bagi laboratorium pengembang untuk melakukan uji coba ketahanan (red-teaming) guna mencegah penyalahgunaan model untuk senjata biologis atau serangan siber skala besar.
• Pembentukan Badan Pengawas Internasional: Wacana pembentukan lembaga setingkat IAEA (Badan Tenaga Atom Internasional) khusus untuk memantau kapasitas komputasi dan perkembangan model dasar (foundation models).

Perdebatan mengenai apakah AI akan menjadi penyelamat peradaban atau justru menjadi pemicu kehancuran bergantung pada keputusan etis dan regulasi yang diambil hari ini. Keberhasilan mitigasi risiko ini menuntut kolaborasi lintas batas negara agar inovasi teknologi tetap berada dalam kendali kemanusiaan.