Red Hat dan AMD Perkuat Kolaborasi Strategis: Solusi AI dan Virtualisasi Unggulan untuk Cloud Hybrid

Red Hat dan AMD Perkuat Kolaborasi Strategis: Solusi AI dan Virtualisasi Unggulan untuk Cloud Hybrid - Red Hat dan AMD resmi mengumumkan kerja sama strategis untuk mengoptimalkan infrastruktur virtual dan mendorong inovasi AI di seluruh cloud hybrid. Aliansi ini memperluas pilihan bagi pelanggan, mulai dari penerapan model AI yang efisien hingga memodernisasi Virtual Machine (VM) tradisional dengan biaya lebih efektif.

"Dengan menggabungkan platform open source terkemuka dari Red Hat dengan GPU AMD Instinct dan CPU AMD EPYC kelas dunia, kami menghadirkan kinerja dan efisiensi yang diperlukan untuk mempercepat inovasi AI, virtualisasi, dan cloud hybrid," kata Philip Guido, EVP dan Chief Commercial Officer AMD.

Dalam era di mana permintaan beban kerja AI semakin beragam, kolaborasi ini menyatukan kekuatan Red Hat AI dan portofolio prosesor berbasis x86 serta arsitektur GPU AMD. GPU AMD Instinct kini sepenuhnya diintegrasikan pada Red Hat OpenShift AI, memberikan daya pemrosesan tinggi yang diperlukan untuk menjalankan aplikasi AI di seluruh cloud hybrid tanpa memerlukan sumber daya ekstrem.

Pengujian menggunakan GPU AMD Instinct MI300X bersama Red Hat Enterprise Linux AI pada Microsoft Azure ND MI300X v5 telah berhasil mendemonstrasikan inferensi AI untuk model bahasa kecil (SLM) dan model bahasa besar (LLM) – semuanya dioperasikan dalam satu VM. Inovasi ini mengurangi kebutuhan untuk menggunakan beberapa VM, sehingga menekan biaya dan meningkatkan efektivitas secara signifikan.

Peningkatan Performa dengan vLLM dan Multi-GPU

Red Hat dan AMD berkolaborasi dalam komunitas vLLM hulu untuk mengembangkan inferensi AI yang lebih cepat dan efisien. Kerja sama ini fokus pada:

Optimasi GPU AMD Instinct: Dengan upstreaming kernel AMD dan pengoptimalan komponen seperti kernel Triton serta FP8, kinerja inferensi untuk model padat dan terkuantisasi semakin meningkat.
Dukungan Multi-GPU yang Lebih Kuat: Pengoptimalan komunikasi kolektif dan integrasi beban kerja multi-GPU membuka jalan bagi skala AI yang lebih hemat energi dan terdistribusi, yang pada akhirnya meningkatkan throughput keseluruhan.
- Keterlibatan Ekosistem vLLM yang Diperluas: Sinergi antara Red Hat, AMD, dan mitra industri seperti IBM mempercepat pengembangan proyek-proyek vLLM, menguntungkan pengguna yang mengandalkan hardware AMD untuk inferensi dan pelatihan AI.

Berdasarkan kolaborasi ini, GPU AMD Instinct kini mendukung Red Hat AI Inference Server – distribusi vLLM kelas perusahaan dari Red Hat – untuk menyediakan server inferensi AI yang handal, tangguh, dan dapat diskalakan. Dengan menjalankan vLLM pada GPU AMD Instinct, organisasi dapat menerapkan model AI sumber terbuka dengan pengoptimalan dan kinerja luar biasa.

Virtualisasi Modern dengan Red Hat OpenShift dan CPU AMD EPYC™

Selain mengoptimalkan AI, kolaborasi antara Red Hat dan AMD juga mencakup transformasi data center melalui Red Hat OpenShift Virtualization. Fitur ini, yang divalidasi pada prosesor AMD EPYC™, memungkinkan organisasi untuk memodernisasi sistem TI lama dengan mudah.

Organisasi kini dapat mengoptimalkan jejak data center mereka, menggabungkan VM tradisional dengan aplikasi kontainerisasi – baik di lokasi, di cloud publik, maupun di seluruh cloud hybrid. Solusi ini meningkatkan konsolidasi infrastruktur, menurunkan total biaya kepemilikan (TCO) pada hardware, lisensi software, dan penggunaan energi. Dengan demikian, tim TI dapat mengelola beban kerja penting saat ini sembari membebaskan sumber daya untuk aplikasi AI di masa depan.

Red Hat Summit

Dalam acara Red Hat Summit, para eksekutif dan mitra berbagi visi mengenai masa depan infrastruktur TI yang terintegrasi dengan AI dan virtualisasi.

"Menyadari manfaat AI berarti organisasi harus memiliki fleksibilitas untuk mengoptimalkan jejak TI sesuai dengan tuntutan skala. Kolaborasi kami dengan AMD memperluas opsi untuk memodernisasi investasi pada arsitektur CPU berperforma tinggi dan platform virtualisasi, sambil mempersiapkan AI produksi dengan akselerator hardware generasi berikutnya dan teknologi AI open source," kata Ashesh Badani, Senior Vice President dan Chief Product Officer, Red Hat.

Kesimpulan

Kolaborasi strategis antara Red Hat dan AMD membuka era baru bagi organisasi yang ingin berinovasi di era digital. Dengan mengintegrasikan solusi AI canggih, virtualisasi modern, dan optimasi data center, pelanggan di seluruh cloud hybrid kini memiliki pilihan yang lebih luas dan hemat biaya untuk mendukung transformasi digital.