Kesilapan Laporan Ditulis AI Hampir Menyebabkan Amerika Berperang Dengan China

Konflik antara Amerika Syarikat dan Iran masih belum berakhir walaupun sudah berlarutan hampir 8 bulan. Hujung minggu lalu, CNN melaporkan Amerika Syarikat hampir berperang dengan China disebabkan oleh kesilapan maklumat yang diberikan oleh sistem kecerdasan buatan (AI) yang digunakan.

Dalam laporan maklumat yang ditulis oleh chatbot AI, ia mendakwa sebuah kapal kargo milik China di Asia Berat membawa komponen senjata nuklear. Tentera Amerika hampir menghantar sebuah pasukan untuk merampas kapal yang disyaki akan menghantar komponen tersebut ke Iran. Perang antara dua kuasa besar ini berjaya dielakkan selepas data dianalisa semula sebelum operasi dilakukan.

Halusinasi dalam laporan ditulis oleh AI berlaku kerana menggabungkan data sebenar dengan data sumber terbuka yang dikumpul daripada pelbagai sumber.Tetapi seperti semua sistem AI kegunaan orang awam, sistem AI yang digunakan Pentagon turut mempunyai masalah menghasilkan halusi yang kini jelas boleh mendatangkan bahawa peperangan.

Apakah model AI yang menulis laporan yang salah ini tidak pula didedahkan. Pentagon memulakan projek GenAI.mil pada Disember tahun lalu dengan kontrak diberikan kepada Google, xAI dan OpenAI. Anthropic menghalang model mereka digunakan bagi tujuan ketenteraan tetapi ia dipercayai masih digunakan walaupun melanggar terma yang ditetapkan.