Penyelidik OpenAI Memberikan Amaran Mengenai Pembangunan AGI Q* Yang Boleh Mengancam Manusia

Kemelut Sam Altman dibuang daripada OpenAI berakhir semalam selepas beliau kembali ke syarikat sebagai CEO dengan barisan lembaga pengarah baharu. Sebab sebenar beliau dibuang hujung minggu lalu masih lagi samar dengan terdapat beberapa teori yang tidak dapat disahkan. Tetapi Reuters pagi ini melaporkan sebelum beliau dipecat, penyelidik di OpenAI memberikan amaran mengenai model kecerdasan buatan (AI) yang dirasakan boleh mengancam peradaban manusia.

Model AI Q* (disebut Q-Star) sedang dibangunkan oleh OpenAI dengan ia berkemampuan menyelesaikan masalah matematik dengan sendiri. Ia bukan sekadar menghafal formula tetapi boleh memahami apakah masalah yang cuba diselesaikannya. Walaupun masih di peringkat awal. penyelidik di OpenAI percaya ia mempunyai kemampuan menjadi sebuah kecerdasan am buatan (AGI).

Surat amaran mengenai bahaya yang mungkin ditimbulkan oleh AGI Q* ini dihantar kepada lembaga pengarah sebelum Altman dipecat. Antara ura-ura yang berlegar sejurus selepas pemecatan Altman ialah beliau tidak mempedulikan tentang keselamatan dalam pembangunan produk di OpenAI. lya Sutskever yang merupakan ketua penyelidikan di OpenAI adalah individu yang terlibat menyebabkan Altman dipecat. Tidak diketahui sama ada surat amaran ini ditulis oleh beliau.

Beberapa hari yang lalu penyelidik di Google DeepMind menerbitkan kajian mengenai lima tahap AGI iaitu emerging (berkembang), competent (kompeten), expert (pakar), virtuoso (virtuoso) dan superhuman (adimanusia). ChatGPT oleh OpenAI ialah AGI yang telahpun mencapai tahap emerging. Ini menimbulkan persoalan apakah tahap AGI yang boleh dicapai oleh Q*.

[sumber] Reuters [/sumber]