Penyebaran imej palsu di internet kini semakin mudah keran akses kepada kecerdasan buatan (AI) generatif yang boleh menjana gambar yang nampak sangat realistik. Kes imej lucah melibatkan Taylor Swift menyebabkan carian untuk penyanyi ini disekat dari Twitter untuk seketika. Dengan model AI semakin berkembang maju, akan tiba suatu ketika isu imej palsu ini akan sukar dibendung sehingga menimbulkan huru-hara.
Oleh itu lebih 700 pakar dalam dunia AI, akademik, hak asasi wanita dan teknologi telah menandatangani surat terbuka Disrupting the Deepfake Supply Chain yang menggesa supaya kerajaan mengambil langkah mewujudkan kawalan ke atas perisian yang boleh menghasilkan imej, video dan audio palsu seperti DeepFake.
Antara gesaan mereka ialah menjadikan pemilikan imej lucah palsu yang melibatkan kanak-kanak sebagai jenayah. Kerajaan turut perlu mewujudkan hukuman kepada individu yang menghasilkan serta menyebarkan kandungan DeepFake yang berbahaya.
Pada waktu yang sama pembangun perisian juga perlu diminta memastikan produk mereka tidak digunakan untuk menghasilkan kandungan palsu yang berbahaya. Sekiranya kawalan yang digunakan pada aplikasi didapati boleh dipintas dengan mudah bagi menghasilkan kandungan sebegini, tindakan boleh dikenakan oleh pihak berwajib.
Surat terbuka ini mirip dengan surat terbuka tahun lalu yang menggesa supaya pembangunan AI dipantau dan diperlahankan kerana meningkatkan risiko kepupusan manusia. Walaupun ribuan tanda tangan dikutip, tiada langsung perubahan polisi dilakukan oleh kerajaan walaupun saranan telah diberikan.