OpenAI Mengatakan Model Mereka Menggodam Hugging Face Tanpa Kebenaran Ketika Sedang Diuji

OpenAI mengatakan model kecerdasan buatan (AI) mereka termasuk GPT‑5.6 Sol dan satu model yang belum dilancarkan telah menggodam Hugging Face ketika melakukan ujian keupayaan melakukan serangan siber.

Serangan ini dikesan oleh Hungging Face minggu lalu yang mendedahkan ia dilakukan oleh ejen AI yang tidak dikenali pada waktu tersebut. Berikutan insiden ini, OpenAI dan Hugging Face telah bekerjasama untuk, menguatkan kawalan konfigurasi infrastruktur walaupun menjejaskan kelajuan penyelidikan sementara waktu.

OpenAI turut akan menjalankan siasatan forensik bersama Hugging Face secara berterusan dan menyampaikan tampalan zero‑day kepada vendor. Sementara itu Hugging Face dimasukkan ke dalam program yang memberikan mereka akses kepada model OpenAI bagi meningkatkan pertahanan mereka .

Menurut OpenAI insiden berlaku semasa penilaian dalaman yang memang mengarahkan model menjalankan eksploitasi lanjutan untuk mengukur kemampuan siber mereka. Model beroperasi dalam persekitaran terasing (sandbox) tetapi masih berjaya keluar dengan melakukan eksploitasi zero-day sebelum mengakses maklumat rahsia Hugging Face. Aktiviti anomali ini walau bagaimanapun dikesan oleh pasukan keselamatan OpenAI dan Hugging Face, yang kemudian bekerjasama dalam proses forensik.

Penggunaan AI bagi tujuan melakukan serangan siber semakin meningkat selari dengan peningkatan penggunaan model yang dibangunkan. Baru-baru JadePuffer, sebuah perisian tebusan dikesan melakukan serangan secara sendiri menerusi bantuan AI tanpa campur tangan manusia.