AMD telah menunjukkan kemajuan signifikan dalam kemampuan pemrosesan AI dengan APU Strix Point terbarunya, memperlihatkan metrik kinerja yang mengesankan dalam aplikasi model bahasa besar (LLM) lokal. Pengujian terbaru perusahaan mengungkapkan cerita menarik tentang masa depan pemrosesan AI dalam perangkat keras konsumen.
Terobosan Kinerja dalam Pemrosesan LLM
Prosesor unggulan AMD Ryzen AI 9 HX 375 telah menunjukkan kemampuan luar biasa dalam aplikasi LLM, mencapai generasi token hingga 27% lebih cepat dibandingkan Intel Core Ultra 7 258V. Pengujian yang dilakukan menggunakan LM Studio menampilkan kemampuan prosesor dalam menangani berbagai model LLM populer termasuk Llama 3.2 dari Meta, Phi 3.1 dari Microsoft, Gemma 2 dari Google, dan model Nemo dari Mistral dengan efisiensi yang lebih unggul.
Akselerasi GPU dan Manajemen Memori Canggih
APU Strix Point menggabungkan fitur akselerasi GPU canggih menggunakan API Vulkan, yang terbukti sangat efektif. Ketika akselerasi GPU diaktifkan, HX 375 menunjukkan kinerja token per detik hingga 20% lebih cepat dibandingkan operasi tanpa akselerasi. Penerapan teknologi Variable Graphics Memory (VGM) memungkinkan alokasi ulang memori secara dinamis, menghasilkan peningkatan kinerja hingga 60% ketika dikombinasikan dengan akselerasi GPU.
Lingkungan Pengujian Komprehensif
Metodologi pengujian AMD menggunakan LM Studio, aplikasi desktop yang mudah digunakan yang dibangun di atas kerangka llama.cpp. Optimalisasi perangkat lunak untuk CPU x86 melalui instruksi AVX2, dikombinasikan dengan kemampuan akselerasi GPU, menyediakan platform yang kuat untuk mengevaluasi kinerja AI dalam dunia nyata. Yang menarik, Ryzen AI 9 HX 375 mencapai hasil ini meskipun berjalan dengan RAM yang lebih lambat (7500 MT/s) dibandingkan sistem Intel yang menggunakan 8533 MT/s.
Implikasi Lebih Luas untuk AI Konsumen
Signifikansi peningkatan kinerja ini melampaui angka-angka mentah, menunjukkan posisi strategis AMD dalam pasar AI konsumen yang terus berkembang. Meskipun perbandingan dilakukan terhadap prosesor kelas menengah Intel daripada model unggulan mereka meninggalkan beberapa pertanyaan tentang kepemimpinan kinerja absolut, hasil tersebut tetap menunjukkan komitmen kuat AMD dalam memajukan kemampuan pemrosesan AI yang dapat diakses konsumen.
Pandangan ke Depan
Seiring beban kerja AI menjadi semakin umum dalam aplikasi konsumen, keunggulan kinerja AMD yang ditunjukkan dalam pemrosesan LLM menunjukkan arah yang menjanjikan untuk pengembangan perangkat keras di masa depan. Kombinasi kemampuan NPU dan akselerasi GPU yang efisien menunjukkan pendekatan matang dalam menangani tugas AI, berpotensi menetapkan standar baru untuk platform komputasi mobile.