Masalah penderaan seksual adalah sangat serius dan sejak PKP dilaksanakan lebih 500 hari yang lalu kesnya dilaporkan meningkat. Selain itu masalah penghantaran imej lucah yang jelek juga meningkat dengan golongan wanita dihantar imej alat sulit. Ini ialah isu yang telah lama berlarutan tanpa sebarang usaha serius dilakukan untuk memeranginya.
Apple hari ini mengumumkan mereka akan memperkenalkan ciri mengesan imej lucah pada aplikasi Message dan iCloud bagi menentang penyebaran Kandungan Penderaan Seksual Kanak-Kanak (CSAM) pada kesemua peranti keluaran mereka. Sistem pembelajaran mesin terbina pada sistem operasi iOS 15, iPadOS 15 dan macOS Monterey yang akan diberikan kelak.
Sistem pembelajaran mesin ini akan menganalisa imej untuk memastikan ianya bukan bahan lucah apabila diberikan kepada pengguna kanak-kanak menerusi Message. Amaran akan diberikan kepada pengguna dengan imej dikaburkan. Ibu bapa pula akan menerima notifkasi kandungan yang mungkin lucah diterima oleh anak-kanak mereka yang dimasukkan ke dalam akaun keluarga yang digunakan.
Seterusnya imej pada peranti akan diimbas oleh sistem pembelajaran mesin yang sama untuk mengesan imej-imej penderaan seksual kanak-kanak yang telah dilaporkan ke National Center for Missing and Exploited Children (NCMEC) Amerika Syarikat. Apabila imej yang padan dengan pangkalan data NCMEC ditemukan pada peranti pengguna dan iCloud mereka pihak berkuasa akan dihubungi. Menurut Apple sistem pembelajaran mesin dan padanan imej penderaan seksual ini adalah cukup dengan kesilapan hanya akan berlaku sekali untuk setiap trilion pengguna.
Akhir sekali sekiranya pengguna peranti Apple melalukan carian untuk melaporkan CSAM menerusi Siri dan Search, peranti akan memberikan maklumat yang tepat. Pengguna yang melakukan carian CSAM pula kan diberikan amaran kandungan yang dicari menyalahi undang-undang dan memberikan saranan bagaimana bantuan boleh diterima untuk merawat kehendak seksual luar tabii ini.
Pada waktu ini kesemua ciri di atas akan hanya diberikan kepada pengguna peranti iOS 15, iPadOS 15 dan macOS Monterey di Amerika Syarikat sahaja terlebih dahulu. Apple menegaskan privasi pengguna masih lagi terjaga kerana carian dilakukan sepenuhnya dalam peranti tanpa data diakses oleh Apple. Hanya laporan kandungan penderaan seksual kanak-kanak akan dilaporkan kepada pihak berkuasa sekiranya padanan ditemui dengan pangkalan data NCMEC.