MissionDetection – Liquid AI baru saja meluncurkan model terbaru mereka, LFM2.5-2.6B, yang berfungsi sepenuhnya di perangkat tanpa memerlukan koneksi internet. Model ini mampu melakukan perencanaan, memanggil alat, dan menyelesaikan tugas-tugas yang lebih kompleks di berbagai perangkat seperti ponsel, laptop, PC, dan robot. Dengan total 2,69 miliar parameter dan jendela konteks 131.072 token, model ini mengikuti proses pelatihan yang menggunakan sekitar 34 triliun token. Hal ini menandakan langkah maju dalam teknologi kecerdasan buatan yang memungkinkan pengolahan data secara lokal, tanpa khawatir tentang keamanan data.
Deskripsi Model dan Fungsionalitas
LFM2.5-2.6B dirancang untuk mengatasi berbagai tugas agenik dengan cara yang efisien. Model ini menyediakan dua titik pemeriksaan untuk penyesuaian lebih lanjut: LFM2.5-2.6B-Base yang dapat digunakan untuk fine-tuning, dan versi post-trained yang dirancang untuk pekerjaan agenik. Keunggulannya terletak pada fakta bahwa inferensinya tetap lokal, sehingga menjadikan biaya setiap proses mendekati nol. Liquid AI melaporkan bahwa model ini menghasilkan hasil yang kompetitif dengan model-model yang memiliki ukuran hampir empat kali lipat lebih besar.
Model ini ditujukan untuk berbagai kalangan, mulai dari pengembang independen hingga perusahaan besar. Pengembang dapat menjalankan model ini di perangkat keras yang sudah dimiliki, sementara perusahaan bisa menerapkan model ini pada armada perangkat mereka tanpa harus mengkhawatirkan keamanan data yang keluar dari perangkat. Dengan mendukung beberapa format, seperti GGUF, MLX, dan ONNX, model ini sudah siap digunakan di berbagai platform.
Target Penggunaan
Liquid AI menargetkan industri seperti otomotif, elektronik konsumen, robotika industri, kesehatan, layanan keuangan, e-commerce, dan pertahanan. Dalam lingkungan yang diatur dan terpisah, model ini memberikan manfaat yang lebih besar, karena tidak ada permintaan yang mencapai API pihak ketiga. Dengan kemampuan untuk melakukan ekstraksi data, menjalankan perintah dalam robotik, serta mengelola alur kerja konteks panjang, model ini bisa digunakan untuk berbagai aplikasi praktis.
Struktur Model dan Proses Pelatihan
Model LFM2.5-2.6B memiliki 30 lapisan, termasuk 22 blok konvolusi ganda dan 8 blok perhatian kueri kelompok. Ukuran kosakata mencapai 128.000 dan panjang konteks 131.072 token. Dalam proses pelatihannya, Liquid AI memanfaatkan dan memperpanjang tokenizer yang ada daripada melatihnya dari nol, yang memungkinkan penambahan ukuran kosakata yang lebih besar.
Model ini dilatih melalui proses empat tahap, dimulai dari fine-tuning terawasi, spesialisasi pengajar, distilasi multi-domain, dan reinforcement learning untuk penguatan agenik. Setiap tahap dirancang untuk meningkatkan kemampuan model dalam memahami dan menjalankan tugas yang beragam.
Benchmarking Kinerja
Dalam penilaian kinerja, model ini dibandingkan dengan beberapa model lainnya, termasuk gemma-4-E2B-it dan Qwen3.5-9B. LFM2.5-2.6B unggul dalam hampir semua benchmark untuk pengikut instruksi dan penggunaan alat, kecuali dalam beberapa aspek coding di mana model yang lebih besar masih memegang keunggulan.
Dengan kecepatan dekode yang mencapai 220 token per detik pada perangkat M5 Max dan hanya 30 token per detik pada ponsel, efisiensi model ini cukup mengesankan. Dalam pengujian throughput, satu perangkat NVIDIA H100 SXM5 dapat menghasilkan hampir 15.000 token per detik pada tingkat konsistensi yang tinggi.
Kesimpulan
Liquid AI dengan peluncuran model LFM2.5-2.6B ini menunjukkan langkah signifikan dalam pengembangan teknologi kecerdasan buatan yang dapat beroperasi sepenuhnya di perangkat, menyediakan fungsionalitas tinggi tanpa khawatir akan masalah keamanan data. Dengan dukungan untuk berbagai aplikasi dan industrinya, model ini berpotensi untuk menjadi alat yang sangat berharga di banyak sektor, mendorong efisiensi dan inovasi di masa depan.