Anthropic Mengesan Penyalahgunaan AI Claude Untuk Memanipulasi Pilihanraya Malaysia Menerusi X

Anthropic menerbitkan laporan penyalahgunaan Claude untuk bulan September. Terdapat banyak penyalahgunaan dikesan dan yang menarik perhatian kami ialah bagaimana ia digunakan di Malaysia untuk memanipulasi pilihanraya negeri yang berlangsung tahun ini.

Claude digunakan untuk menyebarkan maklumat yang dilihat untuk berkempen menyokong pihak tertentu. Lebih seribu akaun palsu telah digunakan untuk tujuan ini di X sementara laman web Malaysian Pulse diwujudkan dengan semua kandungan ditulis menggunakan kecerdasan buatan (AI).

Kesemua akaun palsu didapati menyebarkan kandungan yang sama secara terancang yang mendapat lebih sejuta tontonan di media sosial. Claude telah digunakan untuk menyasarkan pengundi menggunakan profil kawasan pilihan raya yang dibina berdasarkan bancian sebenar dan data. pengundi. Kandungan yang dijana AI kemudiannya disasarkan berdasarkan kaum, agama dan sokongan ke atas institusi diraja.

Selepas aktiviti dikesan Anthropic, keseluruhan operasi telah dijejak untuk mengganggu penyalahgunaan masa hadapan. Claude menolak beberapa arahan oleh pengendali operasi walaupun cuba dipintas menggunakan prom berbeza. Alamat IP dan nama akaun yang digunakan pengendali operasi telahpun dihalang Anthropic.

Sumber – Athropic