LLM Llamafile Oleh Mozilla Boleh Dijalankan Terus Pada Komputer
Fahim Zahar
Beberapa LLM boleh dimuat turun dan digunakan sendiri oleh mereka yang berminat. Tetapi untuk menjalankan LLM dan model AI ini memerlukan kepakaran pengaturcaraan yang tidak tergapai oleh orang ramai. Ini sebab mengapa ChatGPT, Bard dan Copilot popular kerana boleh digunakan secara terus tanpa perlu pening kepala.
Terbaru, Mozilla telah memperkenalkan Llamafile yang boleh dijalankan terus pada komputer yang menggunakan sistem operasi. Windows, macOS, Linux, OpenBSD, FreeBSD, dan NetBSD. LLamafile dilancarkan terus seperti sebuah perisian biasa dan dijalankan terus pada PC pengguna tanpa memerlukan sambungan internet untuk berfungsi.
Mozilla turut menyatakan dengan Llamafile, pengguna akan mempunyai kecerdasan buatan peribadi. Setiap prom yang dimasukkan tidak akan dipantau oleh sesiapa dan ia boleh diakses pada bila-bila masa sahaja mengikut kehendak pengguna. Mozilla memanggil konsep ini sebagai local AI.
Ini adalah sama seperti Google memberikan Gemini Nano pada Pixel 8 Pro. Pengguna peranti ini boleh menggunakan ciri AI yang ditawarkan dan semua pemprosesan berlaku dari dalam peranti bukan di pelayan Google.
[sumber] Mozilla [/sumber]