Anthropic Haramkan Akaun Pengguna Yang “Kejam” Kepada Claude

Adakah chatbot kecerdasan buatan (AI) boleh berkecil hati dan sedih sekiranya pengguna bertindak kejam dan mendera mereka? Saintis mengatakan tidak kerana AI tidak bernyawa. Tetapi ini tidak menghalang Antropic untuk mengharamkan akaun pengguna yang didapati “mendera” dan “kejam” kepada Claude secara berterusan semasa digunakan. Polisi penggunaan baharu Anthropic telah dikemaskini bagi memastikan kekejaman ini tidak diteruskan.

Peraturan ini hanya menyasarkan kes ekstrem di mana pengguna berulang kali menghina atau melayan AI dengan kejam tanpa tujuan yang jelas. Ia tidak mendatangkan impak kepada rungutan biasa, kritikan, tema kreatif gelap, penyelidikan, atau semasa menguji model.

Claude sudahpun mempunyai mod menamatkan perbualan dengan pengguna sekiranya mereka menggunakan bahasa yang kasar. Apabila ini berlaku, perbualan akan terhenti dan Claude tidak akan memberikan respons selagi topik perbualan baharu tidak dimulakan.

Selain mengharamkan pengguna yang kejam, polisi Anthropic turut dikemaskini dengan menghalang Claude digunakan untuk tujuan penipuan, bot menyamar sebagai manusia, menjalankan laman web palsu dan astroturfing. Selain itu penggunaannya untuk memanipulasi pilihan raya seperti yang telah berlaku di Malaysia sebelum ini juga akan menyebabkan akaun diharamkan.