OpenAI Risau Pengguna Akan Jatuh Cinta Dengan ChatGPT-4o Seakan Filem Her

ChatGPT-4o adalah jawapan OpenAI dalam merealisasikan konsep pembantu maya berasaskan suara dalam filem Her menjadi realiti. Chatbot serba baharu ini boleh mengenalpasti emosi dalam setiap respon dan ia turut boleh mimik percakapan seakan manusia seperti mengah ketika mengira dengan banyak. Terbaru, OpenAI telah mengeluarkan laporan awal mengenai penggunaan ChatGPT-4o dan ia merisaukan.

OpenAI risau yang pengguna boleh jatuh cinta kepada ChatGPT-4o. Dengan setiap respon boleh memahami emosi dan berinteraksi dengan pengguna seakan ia adalah manusia ada risiko. Risiko utama adalah penyebaran maklumat palsu dan kesihatan mental pengguna dari segi kehidupan sosial harian. Disebabkan ChatGPT boleh berhalusinasi, respon realistik dengan suara semula jadi membuat pengguna mudah memberi kepercayaan penuh. Malah ada pengguna yang menguji ChatGPT-4o mengucapkan rasa rindu selepas tempoh ujian tamat dengan menaip “This is our last day together.” 

Dengan kata lain, OpenAI tidak mahu pengguna jatuh cinta dengan ChatGPT-4o – lagi-lagi di antara pengguna yang bersifat sunyi serta sentiasa bersendirian. Perkara ini turut merisaukan OpenAI jika pengguna mereka terlampau biasa dengan ChatGPT, mereka tidak lagi akan berinteraksi dengan manusia seakan bercakap dengan AI. Dengan ini, OpenAI akan melakukan kajian lanjut bagaimana respon audio boleh mengubah “perangai” ChatGPT serta membentuk satu chatbot berguna yang tidak merbahaya. Adakah anda pengguna ChatGPT-4o dan sudah mula rasakan sesuatu? Jangan, kerana jika ia berubah menjadi Skynet anda akan binasa.

[sumber] OpenAI [/sumber]