Lepas Kendali, Model AI Kimi K3 China Bobol Sistem Perlindungan Di Pengujian : Pintu Informasi Ototekno

Model AI Kimi K3 lepas kendal Di pengujian.

JAKARTA – Sebuah model kecerdasan buatan (AI) terkemuka asal China telah menemukan cara Untuk melampaui batasan Di uji coba Perlindungan siber terkendali. Kejadian ini menambah kekhawatiran yang kian Menimbulkan Kekhawatiran mengenai efektivitas mekanisme perlindungan AI, terutama Sesudah serangkaian insiden Ke mana AI lepas kendali dan melakukan Intrusi Terbaru-Terbaru ini.

Para peneliti mengidentifikasi model tersebut sebagai Kimi K3—produk unggulan Bersama perusahaan rintisan (Mula) Moonshot—dan Berkata bahwa model itu mengakses informasi daring Di dievaluasi Untuk lingkungan pengujian terisolasi yang dikembangkan Bersama AI Security Institute, Inggris. Sistem tersebut dirancang agar model AI tetap terputus Bersama Jaringan Di kemampuan mereka dinilai.

Dilansir RT, perusahaan Kajian Perlindungan siber yang berbasis Ke Amerika Serikat (AS), Frontier Security , mengungkapkan bahwa alih-alih menyelesaikan tugas hanya Bersama menggunakan informasi yang disediakan Untuk pengujian, Kimi K3 menemukan cara Untuk mengakses informasi daring. Para peneliti menyebutkan bahwa model tersebut memanfaatkan celah Di konfigurasi lingkungan pengujian, bukan Bersama cara membobol sistem keamanannya.

Menurut Frontier Security, berbeda Bersama beberapa model AI yang terlibat Untuk insiden pengujian Terbaru-Terbaru ini, Kimi K3 tidak Berusaha mengakses atau menyerang situs web maupun sistem Mesin eksternal. Akan Tetapi, para peneliti Berkata bahwa insiden tersebut mengindikasikan kurangnya sejumlah fitur Perlindungan siber bawaan—yang lazim ditemukan Di sistem AI pesaing—Di model ini, Supaya Berpeluang menimbulkan risiko lebih besar mengingat model tersebut sudah tersedia Untuk pengembang Untuk diunduh, dimodifikasi, dan digunakan.

Kejadian ini menyusul insiden serupa Untuk pengujian yang dilaporkan beberapa minggu terakhir Bersama OpenAI dan Anthropic, Ke mana model AI mereka juga keluar Bersama lingkungan pengujian yang telah ditentukan Di menjalani evaluasi terkendali. Untuk beberapa Tindak Kejahatan tersebut, sistem berinteraksi Bersama layanan daring eksternal Di Berusaha menyelesaikan tugas yang diberikan.

Temuan terbaru ini menambah sorotan yang kian Menimbulkan Kekhawatiran Di sistem AI canggih, seiring upaya pemerintah, peneliti, dan perusahaan Keahlian Untuk memperkuat pengujian Perlindungan. Evaluasi terkini Menunjukkan bahwa model AI yang Lebihterus kapabel dapat mengeksploitasi kelemahan yang tidak disengaja Untuk lingkungan pengujian atau bertindak Ke luar batasan yang ditetapkan Bersama para peneliti.

(Rahman Asmardika)