Open Codex, asisten AI berbasis command-line yang ringan yang menerjemahkan bahasa alami menjadi perintah shell, sedang berkembang berdasarkan umpan balik komunitas. Meskipun awalnya diluncurkan dengan Phi-4-mini dari Microsoft sebagai model defaultnya, diskusi mengungkapkan rencana untuk memperluas dukungan untuk model bahasa lokal tambahan, khususnya Qwen 2.5.
Pemilihan Model Memicu Diskusi Komunitas
Pemilihan Phi-4-mini sebagai model default Open Codex telah menghasilkan diskusi yang signifikan di antara pengguna. Pengembang, codingmoh, membela keputusan ini dengan menyebutkan rasio kualitas-ukuran model yang mengesankan dan performa yang kuat dalam penalaran multi-langkah, matematika, ekstraksi data terstruktur, dan tugas pemahaman kode. Namun, anggota komunitas telah menyarankan alternatif yang sesuai dengan tren saat ini.
Saya memilih Phi sebagai model default karena, setelah beberapa pengujian, saya benar-benar terkejut dengan seberapa tinggi kualitasnya relatif terhadap ukuran dan kecepatannya. Responsnya terasa lebih baik dalam beberapa tugas penalaran-tetapi berjalan dengan perangkat keras yang jauh lebih sederhana.
Beberapa pengguna menunjuk Qwen 2.5 Coder sebagai standar saat ini untuk model kecil yang berfokus pada kode. Menanggapi umpan balik ini, pengembang telah berkomitmen untuk menambahkan dukungan untuk Qwen 2.5 selanjutnya, mengakui nilai dalam membandingkan model yang berbeda secara berdampingan untuk tugas shell praktis.
Tantangan Integrasi Teknis
Beberapa pengguna melaporkan masalah kompatibilitas ketika mencoba menggunakan Open Codex dengan model kecil lain yang tersedia melalui Ollama, seperti DeepSeek Coder v2. Ini menyoroti tantangan teknis dalam mendukung ekosistem model bahasa lokal yang beragam, masing-masing dengan persyaratan sumber daya dan kemampuan yang berbeda.
Fokus pengembang pada model Phi tampaknya sebagian dimotivasi oleh kekhawatiran aksesibilitas perangkat keras. Dengan memprioritaskan model yang dapat berjalan secara efisien pada perangkat keras sederhana (bahkan dilaporkan pada Raspberry Pi untuk versi terkuantisasi dari Phi-1.5 dan Phi-2), Open Codex mempertahankan komitmennya untuk benar-benar lokal dan dapat diakses tanpa memerlukan perangkat keras yang kuat.
Fitur Saat Ini dan yang Direncanakan dari Open Codex
Fitur Saat Ini:
- Konversi Bahasa Alami ke Perintah Shell menggunakan model lokal
- Mode interaksi sekali pakai
- Dukungan lintas platform (macOS, Linux, Windows)
- Konfirmasi perintah sebelum eksekusi
- Integrasi clipboard
- Output terminal berwarna
Fitur yang Direncanakan:
- Mode interaktif dengan kesadaran konteks
- TUI dengan textual atau rich
- Dukungan untuk Model OSS tambahan (termasuk Qwen 2.5)
- Mode obrolan interaktif penuh
- Dukungan pemanggilan fungsi
- Input suara melalui Whisper
- Riwayat perintah dan pembatalan
- Sistem plugin untuk alur kerja
Pergeseran Menuju Alat AI Lokal
Open Codex mewakili tren yang berkembang dari alat AI yang sepenuhnya lokal yang tidak memerlukan kunci API atau koneksi cloud. Pendekatan ini menawarkan keunggulan dalam privasi, biaya, dan kustomisasi. Tidak seperti OpenAI Codex asli yang menginspirasinya, Open Codex berjalan sepenuhnya di mesin pengguna.
Diskusi komunitas juga mengungkapkan bahwa sementara Codex OpenAI baru-baru ini menggabungkan dukungan untuk beberapa penyedia, Open Codex kemungkinan dikembangkan sebelum perubahan ini. Waktu ini menjelaskan beberapa perbedaan arsitektur antara kedua sistem, meskipun penamaan yang mirip.
Seiring evolusi alat AI, keseimbangan antara kemampuan model dan persyaratan perangkat keras tetap menjadi pertimbangan utama. Roadmap Open Codex mencakup penambahan dukungan untuk model open-source tambahan, mode obrolan interaktif, dukungan pemanggilan fungsi, dan bahkan input suara melalui Whisper, menunjukkan komitmen untuk memperluas fungsionalitas sambil mempertahankan pendekatan lokal-pertamanya.
Referensi: Open Codex