Lanskap kecerdasan buatan menyaksikan perkembangan signifikan ketika model AI open-source DeepSeek menunjukkan kompatibilitas dengan GPU buatan Tiongkok dari Moore Threads, yang berpotensi mengurangi ketergantungan pada perangkat keras NVIDIA tradisional untuk tugas-tugas inferensi AI.
Pencapaian Teknis
Moore Threads telah berhasil menerapkan model DeepSeek-R1-Distill-Qwen-7B pada kartu grafis klien MTT S80 dan kartu grafis kelas data center MTT S4000 miliknya. Implementasi ini menggunakan framework Ollama, sebuah solusi ringan yang dirancang untuk menjalankan model bahasa besar secara lokal di berbagai sistem operasi, dikombinasikan dengan optimasi mesin inferensi milik Moore Threads.
- Harga API DeepSeek: USD 2,2 per satu juta token keluaran
- Harga API OpenAI: USD 60 per satu juta token keluaran
- Perangkat Keras yang Didukung: MTT S80 (GPU klien), MTT S4000 (GPU pusat data)
- Dukungan Framework: Ollama (MacOS, Linux, Windows)
- Model yang Kompatibel: DeepSeek-R1-Distill-Qwen-7B
Dampak Pasar
Perkembangan ini hadir pada saat yang krusial ketika DeepSeek telah membuat gempar komunitas AI global. Strategi harga perusahaan sangat agresif, menawarkan layanan API seharga 2,2 dollar AS per satu juta token output, jauh lebih rendah dibandingkan tarif OpenAI yang mencapai 60 dollar AS per satu juta token. Perusahaan teknologi besar Tiongkok termasuk Alibaba, ByteDance, Baidu, dan JD Cloud telah mengintegrasikan model DeepSeek ke dalam layanan cloud mereka.
Performa dan Integrasi
Meskipun metrik kinerja spesifik belum diungkapkan, Moore Threads mengklaim hasil yang sangat baik melalui optimasi komputasi khusus dan manajemen memori yang ditingkatkan. GPU perusahaan telah menunjukkan kompatibilitas CUDA, yang sangat bermanfaat untuk aplikasi berbahasa Mandarin. Integrasi ini merepresentasikan langkah maju yang signifikan dalam kemampuan perangkat keras AI domestik Tiongkok.
Implikasi Masa Depan
Keberhasilan penerapan model DeepSeek pada GPU Moore Threads menandakan potensi pergeseran dalam lanskap perangkat keras AI. Perkembangan ini dapat menghasilkan opsi implementasi AI yang lebih terjangkau dan mudah diakses, khususnya di pasar Tiongkok. Namun, penting untuk dicatat bahwa demonstrasi saat ini masih terbatas pada model yang telah didistilasi, dan perbandingan kinerja komprehensif dengan solusi AMD, Apple, atau NVIDIA masih belum ditetapkan.