Zona Gadget,
JAKARTA – Deputi Menteri Komunikasi dan Teknologi Digital, Nezar Patria, menggarisbawahi kebutuhan untuk meningkatkan serta memantau perkembangan teknologi.
kecerdasan buatan (AI)
di sektor
kesehatan
melalui pendekatan sandboxing.
Teknik sandboxing mengizinkan jalannya sebuah program di dalam suatu lingkungan yang terpisah dan aman, dikenal sebagai “sandbox”. Di area tersebut, akses ke berbagai sumber daya lain dibatasi.
Dalam penerapan AI di bidang kesehatan, teknologi ini awalnya hanya boleh digunakan secara terbatas dalam area atau sektor spesifik sebelum nantinya dipersiapkan untuk dieksplore ke dalam lingkup yang lebih besar.
Nezar Patria mengungkapkan bahwa sebelum sistem AI diterapkan secara massal, sistem itu perlu menjalani proses pengetesan dalam lingkungan yang terbatas dan terkendali terlebih dahulu sebelum disatukan dengan jaringan yang lebih besar.
Menurut Nezar pada hari Minggu (4/5/2025), “Sangatlah vital untuk memastikan hal ini. Sistem kecerdasan buatan perlu melewati tahap tersebut terlebih dahulu. Dalam proses itu, kita dapat mengamati seberapa baik sistem sesuai dengan aturan yang berlaku, bagaimana langkah-langkah pengendalian risiko dilakukan, serta apakah ia sesuai dengan kasus pemakaian yang diharapkan melalui serangkaian uji coba.”
Mengacu pada pendapat Nezar lewat mekanisme sandboxing, pihak yang berkaitan bisa mengevaluasi beberapa sisi teknis serta etika, seperti tingkat persiapan praktikal dan implikasinya bagi publik.
Dia mencontohkan
China
negara tersebut menjadi pemimpin dalam pengembangan kecerdasan buatan dengan mengadopsi metode sandboxing pada tingkat lokal sebelum mengekspansinya secara internasional.
“Sudah ada kemajuan dalam teknologi kecerdasan buatan canggih di China, dan semakin banyak robot yang dilengkapi dengan AI dibuat untuk menyelesaikan berbagai tugas. Sebelum memasuki pasar internasional, mereka mengujinya terlebih dahulu di pasar lokal; artinya, proses pengujian ini telah dimulai di negeri mereka sendiri,” katanya.
Nezar juga menekankan kesulitan pada implementasi dari model Agentic AI yang memiliki kemampuan untuk memutuskan secara mandiri.
Resikonya tersebut, selanjutnya, tak bisa dicegah saat mengembangkan teknologi canggih, terlebih lagi dalam bidang kesehatan, di mana ancaman dari kecerdasan buatan tidak cuma berhubungan dengan aspek teknikal, tapi juga bersifat sosial dan etika.
“Kalau masih butuh campur tangan manusia, kita harus punya kebijakan soal human in the loop. AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” jelasnya.
Oleh karena itu, Nezar Patria menekankan pentingnya pengembangan AI kesehatan yang berbasis pada data nasional yang telah dikurasi dan divalidasi oleh para ahli dalam negeri.
“Dengan pendekatan ini, Indonesia bisa membangun sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila,” tegasnya.
