Penguatan Pengawasan Teknologi AI di Tiongkok
Otoritas teknologi Tiongkok baru-baru ini mengumumkan rancangan peraturan baru yang bertujuan untuk mengawasi layanan kecerdasan buatan (AI) yang mampu meniru kepribadian manusia dan berinteraksi secara emosional dengan pengguna. Langkah ini mencerminkan komitmen pemerintah dalam memastikan perkembangan teknologi AI yang sehat, aman, serta sesuai dengan nilai-nilai etika dan keamanan. Peraturan ini akan berlaku bagi berbagai layanan AI yang digunakan secara luas, termasuk sistem komunikasi berbasis teks, gambar, audio, hingga video.
Regulasi Baru untuk Menjaga Etika dan Keamanan Teknologi
Rancangan aturan tersebut dirancang untuk mengendalikan penggunaan teknologi AI yang memiliki kemampuan meniru pola pikir dan gaya komunikasi manusia. Aturan ini akan diterapkan pada berbagai produk dan layanan AI yang tersedia di pasar Tiongkok dan dapat memberikan respons emosional kepada pengguna. Tujuan utama dari kebijakan ini adalah menjaga keseimbangan antara inovasi teknologi dan perlindungan hak serta kepentingan pengguna.
Selain itu, regulasi ini juga bertujuan untuk mencegah penyalahgunaan teknologi AI yang dapat merugikan masyarakat. Dengan adanya aturan ini, pemerintah Tiongkok ingin memastikan bahwa perkembangan industri AI tetap berada dalam kontrol yang ketat tanpa mengorbankan keamanan nasional atau stabilitas sosial.
Tanggung Jawab Penyedia Layanan AI untuk Mencegah Kecanduan
Salah satu poin penting dalam rancangan aturan ini adalah kewajiban penyedia layanan AI untuk memastikan keamanan pengguna sepanjang siklus hidup produk. Hal ini mencakup pembangunan sistem peninjauan algoritma, keamanan data, serta perlindungan informasi pribadi. Selain itu, perusahaan juga harus memiliki mekanisme internal untuk mengelola risiko operasional dan mencegah penyalahgunaan fungsi AI yang berpotensi merugikan pengguna.
Aturan ini juga menekankan pentingnya perlindungan psikologis bagi pengguna. Penyedia layanan wajib memberi peringatan terhadap penggunaan berlebihan dan melakukan intervensi jika terdeteksi tanda-tanda kecanduan terhadap interaksi dengan AI. Intervensi dapat dilakukan melalui peringatan otomatis atau pembatasan penggunaan sementara demi menjaga interaksi yang aman dan sehat antara manusia dan sistem AI.
Batasan Konten dan Etika yang Ketat
Selain aspek keamanan teknis, rancangan aturan ini juga menetapkan batasan konten yang diperbolehkan oleh layanan AI. Sistem AI dilarang menciptakan konten yang dapat membahayakan keamanan nasional, menyebarkan rumor, mempromosikan kekerasan, atau mengandung unsur pornografi. Aturan ini sejalan dengan kebijakan pengawasan konten digital yang telah diterapkan sebelumnya di Tiongkok.
Layanan AI yang dirancang untuk berperilaku seperti manusia juga wajib menerapkan mekanisme keamanan dan etika yang ketat serta bertindak sesuai dengan nilai-nilai sosialis. Selain itu, penyedia layanan harus memberi tahu pengguna bahwa mereka sedang berinteraksi dengan sistem AI, baik saat login, secara berkala, maupun ketika terdeteksi tanda ketergantungan berlebihan.
Proses Konsultasi Publik
Rancangan aturan ini dibuka untuk konsultasi publik hingga 25 Januari 2026. Kesempatan ini diberikan kepada perusahaan teknologi, akademisi, dan masyarakat untuk memberikan masukan dan saran. Dengan adanya proses ini, pemerintah Tiongkok ingin memastikan bahwa regulasi yang diterbitkan dapat mencerminkan kebutuhan dan harapan masyarakat serta industri.
