Apple Membangunkan Kaedah Menjalankan LLM Pada iPhone
Fahim Zahar
Perkhidmatan AI generatif berfungsi dengan model bahasa raya (LLM) dijalankan pada sebuah pelayan. Pengguna kemudian boleh menggunakan mana-mana chatbot sama ada dalam aplikasi khas atau dalam laman web. Google berjaya menjalankan LLM pada Pixel 8 Pro dengan Gemini Nano dan Mozilla pula telah memperkenalkan Llamafile untuk menjalankan LLM pada komputer peribadi.
Terbaru, Apple telah berjaya membangunkan kaedah menjalankan LLM pada iPhone iaitu peranti dengan memori yang terhad. Perkara ini dibolehkan kerana Apple menggunakan kaedah Windowing yang mengitar semula data yang telah diproses agar tidak memakan memori setiap kali data baharu diproses. Kedua adalah Row-Column Bundling yang mengumpulkan data dan membacanya sekali gus berbanding membaca data satu demi satu. Kaedah ini dikatakan mempercepatkan lagi AI memahami sesuatu.
Menurut kajian Apple ini, dua kaedah ini membolehkan AI diproses 4-5 kali ganda lebih pantas pada CPU dan 20-25 kali ganda lebih pantas pada GPU. Ini bermakna, kelak di masa hadapan iPhone boleh mempunyai kemampuan kecerdasan buatan pada Siri yang lebih bijak, fotografi lebih hebat, boleh menterjemah bahasa asing secara masa nyata atau juga membawakan ciri realiti terimbuh yang lebih lancar.
Menurut sumber, Apple sedang membangunkan pesaing kepada ChatGPT, Copilot, Claude dan AI generatif yang lain-lain dengan projek yang diberi nama Ajax. Ia dijangka akan dilancarkan bersama-sama dengan iOS 18 tahun hadapan.