AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Memperkenalkan Kemampuan Gorgon Halo untuk Komputasi AI Lokal

Transformasi TEKNOLOGI artificial intelligence semakin meningkatkan kebutuhan perangkat komputasi. Melalui platform Gorgon Halo, AMD mengembangkan pilihan sistem komputasi lokal untuk menjalankan model AI besar. Arsitektur pemrosesan ini mengintegrasikan unit pemrosesan utama, grafis terintegrasi, dan akselerator kecerdasan buatan dalam platform prosesor terintegrasi. Pendekatan pemrosesan tersebut dikembangkan guna mendukung aktivitas generatif kompleks dengan pengelolaan komputasi lebih terarah. Ketika aplikasi AI dijalankan langsung di perangkat, kapasitas memori sering menjadi kebutuhan mendasar. Karena itu, AMD mengutamakan arsitektur unified memory sebagai bagian penting pengembangan.

Generasi prosesor terbaru tersebut hadir sebagai penyempurnaan dari arsitektur Ryzen AI Max sebelumnya. Kemajuan utama generasi ini adalah dukungan RAM yang lebih besar. Pada generasi sebelumnya, kapasitas maksimum mencapai 128GB. Pada jajaran terbaru, konfigurasi tertinggi menyediakan 192 gigabyte memori terpadu. Penambahan RAM tersebut membuka kesempatan menjalankan beban lebih berat bagi sistem agen AI. Walaupun kapasitas meningkat, setiap perangkat tidak otomatis memiliki RAM maksimal. Karena itu, pengembang dianjurkan memastikan kapasitas RAM yang dipasang sebelum menentukan kebutuhan komputasi profesional.

Teknologi RAM Bersama pada Ryzen AI Max 400 Series

Karakteristik yang paling menonjol Gorgon Halo adalah penggunaan RAM bersama yang memungkinkan CPU dan GPU mengakses sumber daya penyimpanan kerja terpadu. Berbeda dari sistem yang memakai kartu grafis terpisah, sistem terpadu tersebut dapat mengurangi perpindahan data tertentu antara unit pemrosesan yang terintegrasi. Keuntungan tersebut dapat membantu ketika memproses data generatif. Ketika LLM digunakan, parameter jaringan saraf membutuhkan ruang penyimpanan kerja. Melalui dukungan memori besar, sistem dapat menampung beban komputasi yang sebelumnya sulit dijalankan pada PC biasa.

Menurut informasi perusahaan, arsitektur tersebut mendukung pembagian ruang kerja GPU sebesar 160 gigabyte. Jumlah tersebut tidak menunjukkan adanya memori kartu grafis khusus sebesar 160GB. Pada platform Gorgon Halo, GPU memanfaatkan bagian memori sistem. Perbedaan ini harus menjadi pertimbangan karena proses pendukung masih memerlukan alokasi memori. Jika memori hampir penuh, pengelolaan proses dapat menjadi kurang efisien. Tidak kalah penting, kecepatan akses data juga memengaruhi kelancaran pemrosesan model. Dengan mempertimbangkan faktor tersebut, sistem yang memiliki ruang besar tetap membutuhkan perangkat lunak teroptimasi.

Teknologi AMD Mendukung Inferensi Model Bahasa Besar Tanpa Cloud

Aspek menarik dari pengembangan Gorgon Halo adalah dukungan terhadap model AI berukuran besar. Menurut AMD, platform dengan memori maksimal memungkinkan penggunaan model dengan lebih dari 300 miliar parameter menggunakan representasi bobot empat bit. Dukungan pemrosesan ini memberikan pilihan tambahan bagi pengembang AI yang ingin bereksperimen secara lokal. Namun demikian, menjalankan model tidak sama dengan menghasilkan token dengan latensi rendah. Performa inferensi aktual dipengaruhi oleh bandwidth memori serta konfigurasi sistem.

Teknik kuantisasi berperan penting dalam menyesuaikan model dengan kapasitas perangkat. Jika bobot disimpan menggunakan banyak bit, jaringan saraf menggunakan alokasi RAM yang lebih tinggi. Sebagai gambaran, model 300 miliar parameter pada format dua byte per parameter membutuhkan sekitar 600GB hanya untuk bobot. Apabila setiap bobot direpresentasikan dengan empat bit, ukuran dasar bobot dapat mendekati 150GB. Sebagai catatan, format quantization nyata memerlukan metadata. Di samping ukuran parameter, aplikasi AI harus menyediakan memori untuk konteks dan proses pendukung. Dengan mempertimbangkan kebutuhan tersebut, kapasitas RAM harus direncanakan secara menyeluruh.

Teknologi Prosesor Gorgon Halo untuk Komputasi dan Grafis Profesional

Selain memori terpadu, Gorgon Halo juga menggunakan unit komputasi utama generasi Zen 5, pemroses grafis Radeon RDNA 3.5, dan NPU XDNA 2. Rancangan pemrosesan tersebut memberikan pilihan akselerasi berdasarkan kebutuhan aplikasi. Prosesor sentral menangani instruksi umum, sedangkan unit komputasi paralel berperan besar dalam inferensi model AI. Sementara itu, NPU dioptimalkan bagi aktivitas kecerdasan buatan dengan dukungan perangkat lunak. Melalui arsitektur tersebut, sistem dapat memilih akselerator yang didukung. Walaupun seluruh komponen mendukung AI, pemrosesan model mungkin hanya menggunakan komponen tertentu.

Dalam model Ryzen AI Max PRO 400 Series kelas atas, AMD menawarkan prosesor dengan maksimum 16 core, kapasitas pemrosesan grafis hingga 40 CU, dan unit AI berkapasitas maksimum 55 triliun operasi per detik. Kombinasi kemampuan ini dikembangkan bagi pekerjaan kreatif dan teknis. Walaupun angka TOPS menunjukkan kapasitas teoritis, pengukuran tersebut tidak langsung menggambarkan hasil generasi token. Ketika menjalankan jaringan saraf berparameter tinggi, optimasi perangkat lunak dan komputasi paralel memiliki pengaruh besar. Karena itu, penilaian perangkat sebaiknya menggunakan hasil benchmark pada model yang relevan, bukan hanya melihat angka spesifikasi.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Sebagai bagian dari pengenalan Gorgon Halo, AMD mengumumkan pengujian kinerja perusahaan. Pengujian tersebut melibatkan berbagai tugas pemrosesan model seperti pemrosesan grafis berbasis AI dan inferensi model bahasa. Menurut AMD, keunggulan performa bervariasi dari peningkatan mendekati 1,1 kali hingga peningkatan maksimum 32,2 kali terhadap platform pembanding yang digunakan. Sebagai catatan penting, angka tersebut berasal dari benchmark yang dipilih AMD. Karena itu, peningkatan maksimum bukan gambaran performa umum.

Berdasarkan evaluasi tertentu, AMD menggunakan ComfyUI untuk pemrosesan gambar generatif. Perusahaan juga memakai format quantization dari Unsloth pada sejumlah beban kerja AI. Jenis perangkat lunak pengujian berperan terhadap konsumsi memori. Tidak kalah penting, panjang konteks percakapan berpotensi mengubah kebutuhan RAM tambahan. Apabila sistem memproses informasi dalam jumlah luas, kecepatan dapat menurun meskipun model berhasil dimuat. Oleh karena itu, pengembang sebaiknya melakukan pengujian independen sebelum menyimpulkan keunggulan performa.

Gorgon Halo Membantu Pengembangan AI Lokal dan Sistem Agen Digital

Peluang utama Gorgon Halo adalah pengembangan AI lokal. Dengan dukungan memori terpadu, organisasi memiliki kesempatan memanfaatkan sistem analisis dokumen langsung pada workstation pribadi. Kemampuan tersebut memungkinkan pengujian aplikasi tanpa ketergantungan penuh pada cloud. Sebagai contoh, perusahaan dapat mencoba agen AI berbasis data organisasi yang menggunakan informasi tanpa selalu mengirimnya ke layanan eksternal. Walaupun proses dilakukan di perangkat, keamanan tetap memerlukan pengelolaan. Aplikasi pendukung mungkin memiliki koneksi jaringan, sehingga izin dan konfigurasi perlu diperiksa.

Di samping penggunaan LLM, Gorgon Halo juga relevan untuk pengembangan agen AI. Dalam sistem AI agent, tugas bisa dibagi menjadi beberapa tahapan. Dalam penggunaan praktis, sistem berpotensi memeriksa berkas referensi, kemudian menyusun ringkasan berdasarkan informasi yang tersedia. Ruang kerja komputasi yang besar memberikan kesempatan menjalankan model serta data dalam satu sistem. Meski memungkinkan pemrosesan lebih luas, penggunaan beberapa agen tetap membutuhkan pengaturan sumber daya. Di samping kebutuhan performa, informasi keluaran sebaiknya diperiksa agar kesalahan tidak diteruskan ke tahap berikutnya.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Kehadiran Ryzen AI Max 400 Series menunjukkan kemajuan penting dalam industri komputer berkinerja tinggi. Dengan menghadirkan kapasitas unified memory sebesar 192 gigabyte, dukungan memori GPU hingga 160GB, serta perpaduan komputasi umum, grafis, dan akselerator AI, sistem Gorgon Halo berpotensi mendukung inferensi model bahasa besar. Kemampuan menjalankan model di atas 300B parameter menggunakan representasi model berpresisi rendah memberikan nilai penting bagi peneliti AI. Namun demikian, kecepatan model sebaiknya diperiksa berdasarkan panjang konteks dan konfigurasi perangkat. Oleh sebab itu, calon pengguna sebaiknya memilih sistem yang seimbang antara performa dan biaya. Bagaimana pendapat Anda mengenai, apakah Gorgon Halo dapat menjadi pilihan utama untuk workstation AI? Mari sampaikan pengalaman Anda mengenai masa depan AI lokal.