Judul: Alat AI Mengintai Kerentanan Perangkat Lunak dari Anthropic Akhirnya Dirilis — Namun Dengan Pembatasan
Pembaruan Terbaru dari Anthropic
Dalam beberapa bulan terakhir, perkembangan teknologi kecerdasan buatan (AI) telah menjadi perbincangan hangat di berbagai kalangan. Salah satu yang paling mencolok adalah kemampuan AI yang mampu melakukan tugas-tugas yang terbilang menakutkan, mulai dari menciptakan karya seni hingga menyelesaikan masalah matematis yang rumit. Baru-baru ini, perusahaan teknologi Anthropic mengungkapkan kekhawatirannya terkait peluncuran model terbarunya, Claude Mythos, yang terbukti terlalu canggih dalam menemukan kerentanan perangkat lunak. Namun, hari ini, Anthropic membuat langkah maju dalam merilis teknologi tersebut.
Memahami Teknologi Pengintai Kerentanan
Pencarian kerentanan perangkat lunak bukanlah hal baru. Para ilmuwan komputer telah lama menggunakan alat seperti fuzzers yang mengirimkan input acak untuk memicu kesalahan pada perangkat lunak. Namun, kehadiran AI telah membawa ancaman ini ke level yang lebih tinggi. Seiring dengan berkembangnya alat pencari kerentanan seperti Mythos, para penciptanya menjadi semakin berhati-hati dalam membagikan model-model mereka yang paling canggih.
Pembagian Model: Fable 5 dan Mythos 5
Alih-alih membiarkan teknologi mereka terabaikan, Anthropic telah menemukan cara untuk menerapkan Claude Mythos dengan tanggung jawab. Mereka memutuskan untuk membagi sistem ini menjadi dua model terpisah: Claude Fable 5 dan Claude Mythos 5.
- Fable 5: Model ini ditujukan untuk publik dan menawarkan berbagai solusi untuk tugas-tugas analitis. Tidak hanya untuk menemukan kerentanan perangkat lunak, Fable 5 juga memiliki kemampuan dalam membantu pengkodean, analisis visi yang kuat, dan bahkan mengembangkan strategi internal seiring waktu. Menurut Anthropic, “Kemampuan Fable 5 melampaui model apa pun yang pernah kami rilis untuk umum.”
- Mythos 5: Meskipun secara internal sama dengan Fable 5, Mythos 5 tidak memiliki banyak perlindungan tambahan. Anthropic berencana untuk merilisnya secara selektif, hanya untuk anggota terpercaya dari komunitas keamanan siber. Tujuannya adalah untuk memastikan alat ini digunakan untuk mengidentifikasi dan memperbaiki bug, bukan untuk tujuan yang merugikan.
Keamanan dan Pembatasan dalam Penggunaan
Anthropic menyadari pentingnya mengendalikan penggunaan teknologi canggih ini. Fable 5 dirancang untuk menanggulangi upaya yang mencoba memanfaatkan model ini untuk menemukan exploit zero-day, yang bisa berbahaya jika jatuh ke tangan yang salah. Ketika ada pengguna yang mencoba mendorong Fable 5 melampaui batasan ini, model akan kembali beroperasi menggunakan Claude Opus 4.8, yang memiliki fitur perlindungan lebih.
Lebih lanjut, Anthropic telah mengembangkan serangkaian "klasifier" yang berfungsi mengenali niat pengguna saat mengoperasikan Fable 5. Klasifier ini tidak hanya berfokus pada pencegahan peretasan, tetapi juga dirancang untuk menghentikan pengguna yang berusaha mengembangkan bahan kimia atau senyawa biologis berbahaya, atau yang mencoba mengekstrak informasi internal untuk menciptakan versi Fable 5 tanpa pengaman yang sesuai.
Menghadapi Tantangan di Masa Depan
Diharapkan bahwa dengan langkah-langkah keamanan ini, peluncuran publik Mythos yang berbasis pada Fable 5 dapat berjalan dengan aman. Namun, kita juga menyadari bahwa banyak pihak akan berusaha sekuat tenaga untuk membuka semua kemampuan yang ada. Dengan kemajuan teknologi yang pesat, tantangan untuk mengendalikan alat canggih ini akan terus ada, dan kolaborasi antara pengembang dan komunitas keamanan siber akan menjadi kunci untuk mencegah penyalahgunaan teknologi AI.
Dengan perkembangan ini, kita dapat melihat bagaimana teknologi AI akan terus beradaptasi dan berevolusi, membawa dampak yang signifikan baik positif maupun negatif di masa depan. Mari kita berharap semua inovasi ini dapat digunakan untuk kebaikan dan memperkuat keamanan siber di seluruh dunia.
Sumber: https://www.androidauthority.com/claude-mythos-5-3676051/
