xAI Disiasat Oleh EU Kerana Grok Menjana Imej Lucah
Effi Saharudin
Topik perbualan dua minggu lalu ialah kecerdasan buatan (AI) Grok menjana imej lucah di X sehingga melanggar privasi pengguna. Gambar wanita berpakaian dilondehkan dan yang berhijab pula dicabut sehingga menyebabkan akses Grok dihalang di Malaysia dan Indonesia. Pada awalnya xAI tidak mengambil sebarang tindakan dengan Elon Musk masih boleh berjenaka. Tetapi selepas amaran diberikan oleh Suruhanjaya Eropah (EC), barulah janaan imej tidak senonoh ini dihentikan.
Tetapi seperti kata penyanyi Shidee, saya semuanya sudah terlambat kerana EC sudah melancarkan siasatan formal ke atas xAI di bawah Akta Perkhidmatan Digital (DSA). Siasatan dimulakan beberapa minggu selepas EC meminta xAI menyimpan semua log dengan ia tidak boleh dipadam.
Siasatan baharu ini akan menilai sama ada xAI menilai dan mengurangkan risiko yang berkaitan dengan penggunaan fungsi Grok ke dalam X di Kesatuan Eropah (EU) dengan betul. Ini termasuk risiko yang berkaitan dengan penyebaran kandungan haram di EU, seperti imej seksual eksplisit yang dimanipulasi, termasuk kandungan yang mungkin merupakan bahan penderaan seksual kanak-kanak.
Sekiranya didapati bersalah, X boleh dikenakan denda bersamaan 6% pendapatan global. EC turut melanjutkan siasatan berterusan yang dilancarkan pada Disember 2023 terhadap pematuhan X terhadap kewajipan pengurusan risiko sistem pengesyorkannya. X disiasat kerana membenarkan kandungan berbentuk perkauman, kebencian dan manipulasi politik kekal di platform walaupun melanggar DSA.