Pengguna ChatGPT Berisiko Disekat 24 Jam Jika Hasilkan Kandungan Tidak Sesuai Libatkan Kanak-Kanak
Amy Maizuraa
Dengan penggunaan AI yang semakin meluas, isu keselamatan kanak-kanak di internet turut menjadi perhatian kerana teknologi ini boleh disalahgunakan oleh pihak tidak bertanggungjawab.

Sehubungan itu, OpenAI memperkenalkan beberapa ciri keselamatan baharu yang bertujuan mengesan kandungan berbahaya lebih awal serta menghalang pengguna daripada menyalahgunakan platformnya. Antara ciri utama yang diumumkan ialah alat pengesan imej berasaskan AI yang mampu mengenal pasti kandungan berbahaya termasuk yang dihasilkan menggunakan AI.
Menurut OpenAI, sistem tersebut dibangunkan dengan kerjasama National Center for Missing and Exploited Children (NCMEC) dan akan diberikan kepada organisasi terpilih secara percuma menerusi API. OpenAI percaya sistem berkenaan dapat membantu organisasi keselamatan menapis kandungan berisiko dengan lebih cekap serta mengurangkan beban semakan manual.

Pada masa sama, OpenAI turut menambah lapisan keselamatan dalam ChatGPT bagi menghalang penghasilan kandungan tidak sesuai yang melibatkan kanak-kanak. Pengguna yang melanggar peraturan akan diberikan amaran dan dikenakan sekatan sementara selama 24 jam, manakala kesalahan berulang boleh menyebabkan akaun digantung secara kekal.
Dalam perkembangan yang sama, OpenAI juga menyediakan panduan untuk pembangun aplikasi, di samping menawarkan alat dan latihan kepada pihak berkuasa bagi membantu usaha melindungi kanak-kanak di internet. Langkah ini menunjukkan bahawa Usaha melindungi kanak-kanak dalam era AI memerlukan kerjasama antara syarikat teknologi, organisasi berkaitan dan pihak berkuasa.
Sumber: OpenAI