Meta Akan Menghentikan Pembangunan AI Yang Berisiko Kritikal

Meta mengumumkan Rangka Kerja AI Perbatasan (Frontier AI Framework) bagi memastikan kecerdasan buatan (AI) yang dibangunkan oleh mereka kelak tidak akan mendatangkan risiko. Di dalam rangka kerja ini, model yang dibangunkan dibahagikan kepada tiga tahap risiko iaitu sederhana, tinggi dan kritikal.

Model dengan risiko sederhana ialah yang tidak meningkatkan tahap ancaman terhadap situasi sedia ada. Ia akan dilancarkan kepada orang ramai tetapi dengan strategi mitigasi berdasarkan penilaian yang telah dilakukan.

Model dengan risiko tinggi pula ialah yang boleh meningkatkan senario ancaman tetapi di bawah tahap kritikal. Ia tidak akan dilancarkan kepada umum dengan akses hanya diberikan kepada pasukan penyelidikan utama sahaja dengan pelbagai perlindungan keselamatan diletakkan bagi mengelakkan ia digodam dan kemudiannya disebarkan.

Akhir sekali ialah model dengan risiko kritikal yang memenuhi kriteria sekurang-kurangnya satu senario yang boleh menyebabkan berlakunya bencana dengan ia tidak boleh dikurangkan walaupun menggunakan pelbagai pelan mitigasi. Ini adalah dalam bentuk ancaman serangan siber, kimia dan biologi.

Pembangunan model berisiko kritikal ini akan dihentikan sebaik sahaja ancaman disedari dan hanya akan diteruskan sekiranya pelan mitigasi risiko yang mencukupi dikenalpasti. Akses kepada model ini dihadkan kepada sebilangan kecil pakar sahaja dengan pelbagai sistem keselamatan untuk mengelakkan ia digodam dan disebarkan ke luar.

Meta berkata dengan perkongsian pendekatan mereka ini, pembangunan sistem AI yang lebih maju dapat dilakukan dengan lebih bertanggungjawab.