Gemini Kini Mempunyai Ciri Mendapatkan Bantuan Jika Pengguna Ingin Mencederakan Diri

Antara isu baharu yang muncul disebabkan oleh pengenalan chatbot kecerdasan buatan (AI) ialah halusinasi model membuatkan pengguna bertindak mencederakan diri atau dalam kes lebih serius membunuh diri. Google Gemini kini telah dikemaskini dengan ciri butang yang akan memberikan bantuan jika ia mengesan tanda-tanda awal isu kesihatan mental menerusi perbualan dengan pengguna.

Untuk situasi berkaitan bunuh diri atau mencederakan diri, Google memperkenalkan antara muka yang meminta pengguna mendapatkan bantuan. Bantuan akan diberikan dalam bentuk chat, teks, panggilan telefon, atau laman web. Pilihan untuk mendapatkan bantuan profesional akan kekal kelihatan sepanjang perbualan dilakukan.

Ciri ini akan memberikan fokus kepada keselamatan dan hubungan manusia, memastikan pengguna digalakkan mendapatkan bantuan sebenar. Respons yang diberikan Gemini direka untuk mengelakkan pengesahan tingkah laku berbahaya seperti menggalakkan mencederakan diri sendiri.

Ia turut dilatih untuk tidak mengesahkan kepercayaan palsu, sebaliknya membezakan pengalaman subjektif daripada fakta objektif. Turut akan dipaparkan ialah penegasan bahawa Gemini bukan pengganti rawatan klinikal, terapi, atau sokongan krisis profesional.

Ciri keselamatan Gemini ini dilancarkan selang seminggu selepas kajian terkini daripada Universiti Standford bertajuk “Sycophantic AI decreases prosocial intentions and promotes dependence” menilai bagaimana kecenderungan AI untuk mengampu (sycophancy) boleh memberi kesan negatif kepada pengguna.