Peringatan Microsoft tentang Fitur AI Eksperimental di Windows 11
Microsoft baru-baru ini memberikan peringatan kepada pengguna Windows 11 mengenai fitur kecerdasan buatan (AI) eksperimental yang memiliki potensi risiko keamanan. Fitur ini dikenal sebagai “agentic OS” dan dirancang untuk memungkinkan sistem operasi bekerja dengan agen AI yang dapat menjalankan tugas secara otomatis.
Agen AI tersebut memiliki akses luas ke berbagai folder dan aplikasi di komputer pengguna, termasuk Documents, Downloads, dan Desktop. Mereka juga bisa menjalankan aplikasi dan memodifikasi sistem. Meski kemampuan ini menawarkan manfaat, Microsoft menyatakan bahwa akses yang luas ini bisa menjadi celah bagi serangan jika tidak digunakan dengan hati-hati.
Salah satu ancaman utama yang muncul adalah teknik cross-prompt injection atau XPIA. Teknik ini memungkinkan konten seperti dokumen, skrip, atau elemen antarmuka tertentu untuk menyisipkan perintah tersembunyi yang dapat memengaruhi perilaku agen AI. Jika perintah jahat ini dijalankan, agen AI bisa menginstal perangkat lunak berbahaya atau mengakses data sensitif tanpa sepengetahuan pengguna.
Microsoft menjelaskan bahwa fitur AI ini masih dalam tahap eksperimen dan tidak aktif secara default. Pengguna harus mengaktifkannya melalui akun administrator, dan keputusan tersebut akan berlaku untuk semua akun yang menggunakan perangkat tersebut. Hingga saat ini, belum ada aplikasi publik yang sepenuhnya memanfaatkan fitur agentic tersebut.
Untuk mengurangi risiko, Microsoft telah mengimplementasikan beberapa langkah mitigasi. Setiap tindakan yang dilakukan oleh agen AI harus mendapatkan persetujuan pengguna, dan seluruh aktivitas agen akan dicatat dalam sistem audit. Selain itu, perusahaan menekankan pentingnya isolasi proses agar dampak dari penyalahgunaan bisa diminimalkan.
Pavan Davuluri, Head of Windows and Surface, menyampaikan bahwa Microsoft memahami bahwa kata-kata saja tidak cukup. Perusahaan berkomitmen untuk meningkatkan keamanan seiring berkembangnya fitur AI di Windows.
Meskipun demikian, para ahli keamanan menilai bahwa upaya mitigasi yang dilakukan Microsoft belum sepenuhnya menghilangkan risiko. Celah serangan XPIA memanfaatkan perilaku pengguna yang sering kali tidak menyadari asal-usul file atau konten yang dibuka. Dokumen biasa seperti PDF atau halaman web bisa menyisipkan instruksi tersembunyi yang dijalankan oleh agen AI.
Microsoft menyarankan pengguna untuk berhati-hati sebelum mengaktifkan fitur ini. Pengguna disarankan menggunakan perlindungan bawaan seperti Microsoft Defender dan menghindari dokumen yang tidak dikenal. Perusahaan juga mengingatkan bahwa perkembangan AI di sistem operasi membawa manfaat dan risiko secara bersamaan. Oleh karena itu, pengguna diharapkan lebih waspada terhadap akses yang diberikan kepada sistem otomatis.
