Software & Hardware

Recursive Rilis Flint, Model AI Coding Terbuka yang Bisa Dijalankan Secara Lokal

Perusahaan kecerdasan buatan Recursive memperkenalkan Flint pada 21 Oktober 2026 sebagai model AI coding terbuka yang dirancang untuk membantu pengembang menulis, memperbaiki, dan menguji kode secara lokal. Model ini menggunakan arsitektur Mixture-of-Experts dengan 39,8 miliar parameter, tetapi hanya mengaktifkan sekitar 2,5 miliar parameter untuk setiap token yang diproses. Pendekatan tersebut memungkinkan penggunaan komputasi yang lebih efisien dibandingkan model padat berukuran serupa. Dengan dukungan perangkat Apple Silicon dan GPU NVIDIA, Flint menawarkan alternatif bagi developer yang mengutamakan kecepatan, privasi, serta kontrol terhadap lingkungan pengembangan. Kehadirannya turut memperluas pilihan TEKNOLOGI AI coding yang dapat dijalankan tanpa selalu bergantung pada layanan cloud.

Inovasi Model AI Lokal dari Recursive untuk Pemrograman Modern

Perusahaan Recursive memperkenalkan Flint sebagai sistem kecerdasan buatan yang berfokus pada pengembangan perangkat lunak. Berbeda dari chatbot yang mengutamakan percakapan umum, Flint dioptimalkan bagi tugas pengembangan kode. Kemampuan tersebut mencakup pemeriksaan repository, penanganan kesalahan program, penambahan fungsi perangkat lunak, dan penyusunan kode pengujian. Berkat rancangan khusus tersebut, tim perangkat lunak memiliki alternatif untuk mempercepat pekerjaan. Namun demikian, hasil model tetap membutuhkan pemeriksaan manusia. Prinsip pengawasan ini membantu mengurangi kemungkinan kesalahan.

Karakteristik yang membedakan Flint adalah penggunaan lisensi terbuka untuk model. Perusahaan menyediakan Flint dengan lisensi Apache 2.0 yang memungkinkan integrasi dalam proyek yang sesuai ketentuan lisensi. Dengan ketersediaan tersebut, pengguna dapat menjalankan inferensi pada perangkat sendiri. Pendekatan penggunaan lokal relevan untuk organisasi dengan kebutuhan pengendalian data. Namun perlu dipahami, penggunaan Flint tetap memerlukan perangkat keras yang sesuai. Sebagai hal yang perlu diperhatikan, integrasi agen perlu dikelola secara aman. Melalui pengaturan yang tepat, pengembang dapat menyesuaikan penerapan sesuai kebutuhan.

Spesifikasi Flint dengan Arsitektur Mixture-of-Experts

Model AI Recursive ini mengandalkan Mixture-of-Experts atau MoE yang mengaktifkan komponen tertentu sesuai kebutuhan pemrosesan. Berdasarkan spesifikasi model, Flint menyimpan hampir 40 miliar parameter. Akan tetapi, hanya sekitar 2,5 miliar parameter yang aktif untuk setiap token. Mekanisme aktivasi terbatas tersebut memungkinkan pemrosesan lebih ringan dibandingkan model padat tertentu. Pada arsitektur model padat, seluruh lapisan utama digunakan secara lebih menyeluruh. Sementara itu, mekanisme pemilihan expert menentukan jalur komputasi. Dengan pendekatan ini, model berpotensi menghasilkan respons lebih cepat.

Di luar pengelolaan parameter, Flint memiliki konfigurasi konteks sebesar 262K token. Ukuran konteks ini mendukung penyertaan riwayat pekerjaan dalam jumlah besar. Dalam penggunaan praktis, pengembang dapat memasukkan beberapa file terkait. Namun demikian, hasil dapat menurun ketika instruksi terlalu panjang atau kompleks. Untuk menjaga efektivitas, pekerjaan kompleks perlu dikelola dalam tahapan terukur. Sebagai langkah pendukung, referensi kode harus dipilih berdasarkan kebutuhan. Pengelolaan konteks yang tepat mengurangi risiko model kehilangan fokus.

Performa Inferensi Lokal Recursive Flint di Berbagai Perangkat

Perusahaan mengoptimalkan sejumlah pilihan menjalankan model agar Flint mampu berjalan pada GPU NVIDIA yang kompatibel. Berdasarkan pengujian yang diumumkan, Flint mampu menghasilkan lebih dari 125 token per detik pada MacBook Pro tertentu. Dalam pengujian menggunakan sistem grafis NVIDIA, performa pemrosesan mencapai lebih dari 150 token setiap detik pada konfigurasi perangkat yang sesuai. Kecepatan tersebut menjadi salah satu daya tarik pendekatan MoE. Meski hasilnya menarik, performa dipengaruhi quantization dan runtime. Dalam penggunaan nyata, pengguna perlu menguji konfigurasi sendiri.

Dalam menyediakan pilihan implementasi, Flint memiliki beberapa format bobot model. Salah satu pilihannya adalah BF16 yang menyimpan bobot dengan presisi lebih tinggi. Untuk mengurangi kebutuhan memori, tersedia versi terkuantisasi seperti NVFP4 dan GGUF. Varian bobot yang lebih kecil membantu memungkinkan inferensi pada perangkat yang lebih terbatas. Meskipun format ringkas tersedia, penggunaan RAM dan VRAM dapat meningkat saat konteks panjang. Oleh karena itu, pengguna perlu memeriksa kapasitas memori. Melalui pemilihan versi yang tepat, penggunaan Flint secara lokal menjadi lebih realistis.

Cara Menjalankan Recursive Flint secara Lokal

Pilihan penggunaan lokal yang tersedia untuk menggunakan Flint pada komputer sendiri adalah memanfaatkan Ollama. Perangkat lunak Ollama dikenal sebagai alat untuk menjalankan model bahasa pada perangkat. Ketika perangkat lunak Ollama sudah tersedia, pengembang bisa menjalankan jendela perintah. Perintah ollama run flint memulai penggunaan Flint melalui Ollama. Setelah runtime berhasil menjalankan checkpoint, developer bisa mengajukan pertanyaan tentang kode. Namun demikian, interaksi terminal biasa tidak selalu menyediakan akses langsung ke seluruh repository.

Untuk lingkungan pengembangan yang berbeda, Flint memiliki integrasi dengan berbagai perangkat lunak AI. Pilihan tersebut mencakup SGLang, Unsloth, serta llama.cpp. Untuk pengguna perangkat Apple, Recursive menghadirkan perangkat lunak rec untuk menjalankan Flint. Runtime tersebut memanfaatkan optimalisasi bagi prosesor Apple yang kompatibel. Untuk penggunaan yang melibatkan banyak tindakan, Flint dapat dipadukan dengan OpenHands. Dengan integrasi tersebut, tugas pengembangan dapat dikelola melalui beberapa langkah. Perlu diingat, perintah otomatis sebaiknya dijalankan dalam lingkungan aman. Pengawasan tersebut menjaga keamanan repository dan lingkungan kerja.

Kemampuan Flint untuk Memperbaiki Bug dan Mengembangkan Aplikasi

Model tersebut dikembangkan untuk menangani pekerjaan pemrograman yang memerlukan beberapa langkah. Dalam skenario pengembangan, pengembang dapat meminta model menganalisis bug. Melalui integrasi agen, sistem bisa meninjau bagian kode yang relevan sebelum hasil perubahan diperiksa melalui test. Untuk pekerjaan pengembangan lainnya, Flint dapat membantu menambahkan fitur serta membuat unit test. Kemampuan tersebut membantu mempercepat proses implementasi tertentu. Walaupun model dapat membantu pekerjaan teknis, solusi tidak boleh langsung dianggap benar. Pengawasan kualitas tersebut penting terutama pada aplikasi produksi.

Dalam pengujian performa model, Recursive mempublikasikan hasil beberapa benchmark. Dalam pengujian Terminal-Bench versi 2.1, Flint mencatat hasil 54,9 persen. Dalam pengujian perbaikan perangkat lunak, Flint dilaporkan memperoleh 89,7 persen pada SWE-bench Pro v2, sedangkan skor SWE-bench Verified tercatat sebesar 74,2 persen. Pencapaian benchmark ini berasal dari pengujian yang dilaporkan Recursive. Dalam menilai performa sebenarnya, metodologi pengujian harus diperiksa. Sebagai pertimbangan tambahan, hasil benchmark tidak menjamin semua tugas selesai dengan benar. Berdasarkan keterbatasan evaluasi, pengujian langsung tetap diperlukan.

Penutup: Peluang Model AI Terbuka dalam Pengembangan Perangkat Lunak

Rilis model terbuka dari Recursive menunjukkan kemajuan pemanfaatan AI untuk pemrograman. Berkat desain model MoE yang efisien, Flint menawarkan pemrosesan yang lebih hemat komputasi. Kapasitas hingga 262 ribu token serta integrasi dengan berbagai runtime lokal memberikan fleksibilitas dalam penggunaan. Sebagai keunggulan penting, dukungan ekosistem open-weight memungkinkan adopsi yang lebih fleksibel. Meskipun hasil benchmark menunjukkan potensi, kode yang dihasilkan harus melalui pengujian. Seiring kemajuan TEKNOLOGI pemrograman, AI coding terbuka dapat memperluas pilihan developer. Bagaimana pandangan Anda, apakah AI coding lokal dapat menggantikan sebagian kebutuhan layanan cloud? Bagikan pandangan Anda tentang masa depan model pemrograman terbuka.

Related Articles

Back to top button