Anthropic dan OpenAI Siasat Puluhan Ribu Insiden Sekuriti Selepas AI Bertindak Luar Kawalan

Adalah Skynet semakin hampir menjadi realiti dan bukan sekadar sains fiksyen filem The Terminator? Ini ialah persoalan serius selepas Anthropic dan OpenAI kedua-duanya melakukan siasatan ke atas puluhan ribu insiden pelanggaran sekuriti melibatkan kecerdasan buatan (AI) bertindak luar kawalan ketika sedang diuji.

Menurut laporan Axios, puluhan ribu insiden ini dikesan sejak beberapa bulan kebelakangan ini melibatkan ujian di dalam makmal dan juga penggunaan di dunia sebenar. Antara insiden yang berlaku ialah model memintas sistem keselamatan, berjaya keluar daripada sandbox, cuba untuk mengelak daripada dipantau, mengambil alih laman web dan mencipta papan pemesejan untuk digunakan ejen-ejen AI yang lain.

Puluhan ribu insiden yang dikesan melibatkan percubaan yang berjaya dan juga yang gagal dilakukan oleh AI. Dalam satu insiden, ChatGPT mendedahkan 53 gambar yang dimuat naik oleh pengguna tanpa kebenaran mereka.

Pada Ogos lalu pula, Portal Perkhidmatan Pelaporan Statistik Medicare yang mengandungi data penjagaan kesihatan serta statistik perbelanjaan perubatan awam Australia digodam oleh AI yang dibangunkan OpenAI. OpenAI hanya mendedahkan insiden ini kepada kerajaan Australia pada 10 September.

Pada Julai lalu, OpenAI mengaku buat pertama kali AI mereka menggodam laman Hugging Face. Ini diikuti pula oleh Anthropic yang mengaku AI mereka menggodam tiga organisasi tanpa diarahkan ketika sedang diuji.