Andes dan Meta mulai berkolaborasi pada AI datacenter dengan inti vektor RISC-V sejak awal 2019*(Lihat Catatan). Andes kemudian meluncurkan AndesCoreTM NX27V, menandai tonggak penting sebagai inti prosesor vektor komersial RISC-V pertama di industri yang mampu menghasilkan hingga 4 hasil vektor 512-bit (VLEN) per siklus, pada akhir 2019. Ini segera menarik perhatian tim desain SoC di seluruh dunia yang bekerja pada akselerator AI, dan telah mendapatkan lebih dari lusinan proyek AI datacenter. Sejak itu, inti prosesor vektor RISC-V telah menjadi pilihan untuk vendor ML dan AI.
Dengan tujuan untuk lebih meningkatkan kepadatan komputasi, AX45MPV memperluas kemampuan pipeline dual-issue 8-tahap, dukungan Linux dan multicore dari AX45MP dengan unit pemrosesan vektor yang kuat yang diwarisi dan ditingkatkan dari pendahulunya, NX27V. Sementara AX45MPV pada dasarnya adalah prosesor aplikasi Linux dengan kemampuan AI kelas datacenter, dukungannya untuk Linux dan multicore dapat dihilangkan untuk membentuk prosesor komputasi yang efisien dan kuat di elemen pemrosesan (PE) dari susunan komputasi besar. Kemampuan dual-issue yang dikombinasikan dengan hingga 6 hasil vektor 1024-bit (VLEN) per siklus pada AX45MPV dapat memberikan kinerja lebih dari 3X dibandingkan dengan pendahulunya. Untuk memanfaatkan daya komputasi yang lebih tinggi, AX45MPV menawarkan dua antarmuka memori 1024-bit. Opsi memori lokal vektor bandwidth tinggi (HVM) baru menyediakan 1 atau 2 port bank HVM, ideal untuk muat/simpan vektor, dan mesin DMA eksternal untuk memindahkan sejumlah data di latar belakang melalui Port Akses HVM berbasis AXI. Untuk tugas komputasi yang memerlukan kontrol koprosesor terintegrasi bersama dengan transfer data, Port Streaming Andes (ASP) yang serba guna yang tersedia sejak prosesor vektor Andes pertama adalah solusi terbaik. Dengan menggabungkan port ASP dan HVM, prosesor secara efektif menggandakan bandwidth memorinya dengan, misalnya, mampu memuat 2 data vektor per siklus. AX45MPV juga mendukung ACE (Andes Custom ExtensionTM) terbaru, yang memfasilitasi pelanggan untuk membuat instruksi vektor gaya RISC-V mereka sendiri. Misalnya, ACE dapat digunakan untuk mempercepat fungsi matematika non-linear seperti SoftMax pada Transformer AI.
“Andes telah melayani pelanggan AI datacenter sejak 2019 dengan arsitektur Vektor RISC-V dan telah mengumpulkan pengalaman kaya. Dilengkapi dengan unit vektor 1024-bit yang kuat, dukungan Linux dan multicore yang efisien, dan konfigurasi yang serba guna, generasi ketiga prosesor vektor Andes AX45MPV khusus dibuat untuk Large Language Models (LLMs). Dengan lonjakan aplikasi AI generatif pada 2023, kami melihat AX45MPV mengambil pusat panggung di segmen AI dan Pembelajaran Mesin di luar Cloud.”, kata Dr. Charlie Su, Presiden dan CTO Andes Technology.
Beberapa pelanggan dari Asia dan Amerika Utara telah melisensikan AX45MPV, dan lebih banyak lagi yang mengevaluasinya. Aplikasi mereka mencakup berbagai bidang mulai dari cloud hingga edge. Paket produk standar AX45MPV, tanpa dukungan Linux, tersedia segera. Paket produk majuannya akan dilengkapi dengan dukungan Linux dan akan tersedia pada kuartal keempat 2023.
Tentang Andes Technology
Berdiri selama delapan belas tahun dan menjadi Anggota Pendiri Premier RISC-V International, Andes adalah perusahaan publik (TWSE: 6533; SIN: US03420C2089; ISIN: US03420C1099) dan pemasok terkemuka solusi IP prosesor embedded 32/64-bit kinerja tinggi/daya rendah, serta kekuatan pendorong dalam membawa RISC-V ke arus utama. Keluarga CPU V5 RISC-V Andes mulai dari inti 32-bit kecil hingga prosesor 64-bit Out-of-Order tingkat lanjut dengan DSP, FPU, Vector, Linux, superscalar, dan/atau kemampuan multi/many-core. Pada akhir 2022, volume kumulatif SoC Andes-EmbeddedTM telah melampaui 12 miliar. Untuk informasi lebih lanjut, kunjungi https://www.andestech.com. Ikuti Andes di LinkedIn, Twitter, Bilibili dan YouTube! !
*Catatan: MTIA: First Generation Silicon Targeting Meta’s Recommendation Systems, ISCA ’23: Proceedings of the 50th Annual International Symposium on Computer Architecture, Juni 2023
KONTAK: Hsiao-Ling Lin
Manajer Pemasaran,
Andes Technology Corp.
hllin@andestech.com