Era Baru Benchmark GenAI! AMD dan MLPerf Endpoints Fokus pada Layanan Nyata, Bukan Sekadar Angka di Atas Kertas

Era Baru Benchmark GenAI! AMD dan MLPerf Endpoints Fokus pada Layanan Nyata, Bukan Sekadar Angka di Atas Kertas - Selama ini, performa kartu grafis (GPU) dalam menangani AI sering kali hanya diukur dari seberapa banyak token yang bisa dihasilkan per detik. Namun, di era Generative AI (GenAI) yang semakin matang, angka di atas kertas saja tidak lagi cukup. Fokus industri kini bergeser: bukan lagi soal seberapa kencang perangkat kerasnya, tapi seberapa andal layanan tersebut sampai ke tangan pengguna.

Menyadari perubahan ini, AMD bersama konsorsium MLCommons memperkenalkan MLPerf Endpoints. Ini adalah sebuah standar benchmark baru yang dirancang khusus untuk mengevaluasi performa GenAI dari perspektif penyedia layanan (service provider).

Mengapa MLPerf Endpoints Sangat Penting?

Dulu, benchmark AI hanya berfokus pada kerangka kerja (framework) individu. Kini, infrastruktur AI telah berevolusi menjadi layanan terkelola yang diakses melalui API (Application Programming Interface).

Baca juga:Lenovo LOQ 15AHP11 0SID, Laptop Gaming Andalkan Duet Ryzen 7 250 dan GeForce RTX 5060

MLPerf Endpoints hadir dengan beberapa keunggulan utama:

Berbasis API: Mengukur performa AI sebagaimana pelanggan merasakannya secara nyata melalui endpoint API live.
Rolling Submissions: Memungkinkan pengujian dilakukan secepat pembaruan perangkat lunak, sehingga hasil benchmark selalu relevan dengan kondisi terkini.
Transparansi Total: Standar ini dibentuk oleh komunitas pakar, bukan dikontrol oleh satu vendor saja, sehingga hasilnya lebih adil dan dapat dipercaya.

Peran Krusial AMD: Pelopor Sejak Hari Pertama

AMD bukan sekadar pengikut dalam inisiatif ini. Sebagai salah satu dari lima kolaborator awal, AMD terlibat aktif sejak hari pertama dalam menentukan beban kerja, aturan, dan infrastruktur untuk cara baru evaluasi performa ini.

“AMD telah lama memperjuangkan standar terbuka dan benchmark yang digerakkan oleh komunitas. Kami percaya evaluasi yang transparan akan menguntungkan seluruh ekosistem,” ungkap Emad Barsoum, Corporate VP, AMD.

Komitmen AMD terhadap keterbukaan ini sudah terlihat jelas pada ekosistem perangkat lunak AMD ROCm. Dengan menggunakan tumpukan open-source ROCm, AMD memastikan bahwa setiap hasil benchmark yang mereka kirimkan dapat direproduksi secara mandiri oleh pihak lain.

Bukan Sekadar Klaim Sepihak

Kepercayaan industri terhadap MLPerf lahir karena prosesnya yang demokratis. Standar ini dibentuk oleh kelompok kerja yang terdiri dari para ahli di bidangnya. Hal inilah yang membuat MLPerf menjadi barometer utama bagi pembeli dan pembangun infrastruktur AI dalam menentukan pilihan.

David Kanter, pendiri MLCommons, memuji langkah AMD yang berani menguji infrastruktur produksi nyata mereka. Menurutnya, kesediaan AMD untuk bersikap transparan adalah alasan mengapa MLPerf tetap menjadi standar industri yang paling dipercaya.

Masa Depan AI yang Terbuka dan Kompetitif

Dengan memimpin di MLPerf Endpoints, AMD mengirimkan pesan yang kuat: masa depan AI harus didefinisikan oleh performa mutakhir sekaligus standar yang terbuka dan digerakkan oleh komunitas.

Bagi para pengguna dan pengembang, hal ini berarti lebih banyak pilihan yang andal dan transparan. Ke depannya, AMD akan terus mempublikasikan hasil pengujian menggunakan GPU AMD Instinct mereka seiring dengan kemajuan inisiatif ini.

Apakah menurut pembaca Laptophia, transparansi dalam pengujian AI lebih penting daripada sekadar klaim kecepatan "paling kencang" dari sebuah vendor? Sampaikan pendapat Anda di kolom komentar!