Seruan Global untuk Menetapkan Batas Penggunaan Kecerdasan Buatan
Lebih dari 200 tokoh ternama, termasuk mantan pemimpin negara, diplomat, ilmuwan pemenang Nobel, hingga pengusaha teknologi, telah menyampaikan seruan penting terkait perlu adanya kesepakatan internasional dalam menetapkan batas atau red lines dalam penggunaan kecerdasan buatan (AI). Inisiatif ini dikenal sebagai “Global Call for AI Red Lines” dan menyerukan agar negara-negara segera menyepakati standar etik dan keamanan AI paling lambat pada akhir tahun 2026.
Beberapa aturan yang diusulkan mencakup larangan penggunaan AI untuk meniru manusia atau kemampuan mereplikasi diri. Para penandatangan inisiatif ini mencakup tokoh-tokoh penting seperti ilmuwan komputer Geoffrey Hinton, pendiri OpenAI Wojciech Zaremba, CISO Anthropic Jason Clinton, serta ilmuwan riset Google DeepMind Ilya Sutskever dan Ian Goodfellow.
Charbel-Raphael Segerie, Direktur Eksekutif French Center for AI Safety (CeSIA), menjelaskan bahwa tujuan utama dari inisiatif ini adalah mencegah risiko besar yang tidak bisa dipulihkan. “Tujuannya bukan untuk bereaksi setelah bencana terjadi, tetapi untuk mencegah potensi bahaya yang bisa terjadi,” ujarnya.
Ia menekankan bahwa jika negara-negara belum sepakat tentang apa yang ingin mereka capai melalui AI, maka setidaknya mereka harus sepakat mengenai hal-hal yang tidak boleh dilakukan oleh AI. Inisiatif ini juga didukung oleh lebih dari 70 organisasi global yang fokus pada etika dan keamanan teknologi, seperti CeSIA, The Future Society, dan Center for Human-Compatible Artificial Intelligence dari UC Berkeley.
Langkah-Langkah yang Sudah Diambil
Seruan ini muncul menjelang Sidang Majelis Umum PBB ke-80 di New York. Maria Ressa, peraih Nobel Perdamaian asal Filipina, turut menyampaikan pentingnya inisiatif ini dalam pidato pembukaannya. Ia menyerukan perlunya mengakhiri impunitas Big Tech melalui akuntabilitas global.
Beberapa wilayah sudah mulai mengambil langkah-langkah, seperti Uni Eropa melalui AI Act yang melarang penggunaan AI dalam konteks yang tidak dapat diterima. Amerika Serikat dan Tiongkok juga telah sepakat memastikan senjata nuklir tetap berada di bawah kendali manusia dan bukan AI. Namun, hingga kini belum ada konsensus global yang menyeluruh terkait batasan penggunaan AI.
Niki Iliadis, Direktur Tata Kelola Global AI dari The Future Society, menilai bahwa kebijakan sukarela yang dibuat oleh perusahaan teknologi tidak cukup. Menurutnya, dunia memerlukan lembaga internasional independen yang memiliki kewenangan untuk menetapkan, memantau, dan menegakkan red line AI.
Penekanan pada Keamanan dan Etika
Stuart Russell, profesor ilmu komputer dari UC Berkeley dan salah satu peneliti AI terkemuka dunia, menegaskan bahwa seruan ini tidak bermaksud menghalangi pengembangan ekonomi dan inovasi. “Namun, perusahaan harus bersedia tidak membangun AGI (Artificial General Intelligence) sampai mereka tahu bagaimana cara memastikan keamanannya,” ujarnya.
Russell menyoroti pentingnya memastikan bahwa AI tidak hanya efisien, tetapi juga aman dan bertanggung jawab. Dengan meningkatnya perkembangan teknologi, ia menilai bahwa tanggung jawab sosial dan etika harus menjadi prioritas utama.
Inisiatif “Global Call for AI Red Lines” menunjukkan bahwa kesadaran akan risiko AI semakin meningkat. Dengan partisipasi banyak tokoh dan organisasi, inisiatif ini berharap bisa menjadi dasar bagi kerangka regulasi global yang lebih kuat dan koheren. Dengan demikian, AI dapat dikembangkan secara bertanggung jawab dan bermanfaat bagi seluruh umat manusia.
