Instance A5X Google Cloud Hadir Bulan Depan

Instance A5X dari Google Cloud dan NVIDIA akan tersedia untuk umum mulai bulan depan. Layanan ini dirancang untuk pelanggan cloud yang membutuhkan pelatihan, inferensi, serta pembelajaran penguatan dalam skala besar, dengan perluasan ketersediaan yang direncanakan hingga Eropa.

Ineffable Intelligence menjadi pelanggan pertama yang mengakses instance tersebut, menurut Google Cloud. Perusahaan teknologi yang berbasis di London itu didirikan David Silver, pencipta AlphaGo, dan menggunakan A5X untuk mengembangkan sistem superlearner yang terus belajar dari pengalaman.

David Silver, pendiri sekaligus CEO Ineffable Intelligence, mengatakan perusahaannya membangun superlearner yang terus berkembang melalui pengalaman sendiri. Ia menjelaskan kebutuhan itu memerlukan komputasi besar dan keterhubungan erat antara pembuatan pengalaman dengan pelatihan model.

Komponen dan kapasitas instance A5X

Instance A5X menggabungkan NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs, Google Cloud Virgo Network, serta teknologi pendinginan cair generasi keempat Google Cloud. Rangkaian tersebut ditujukan untuk mendukung inferensi agen dan pembelajaran penguatan yang berjalan pada skala besar.

Dalam pembelajaran berbasis interaksi, sistem menjalani tahapan pembuatan pengalaman, penilaian hasil, lalu pembaruan model. Google Cloud memasukkan Vera Rubin ke AI Hypercomputer sebagai sistem terpadu yang menyatukan komputasi, jaringan, dan penyimpanan untuk mendukung proses itu.

Infrastruktur berbasis Vera Rubin tersebut direncanakan mencapai hingga 960.000 GPU Rubin di sejumlah lokasi. Google Cloud dan NVIDIA juga mengeksplorasi NVIDIA DSX MaxLPS untuk membantu meningkatkan kinerja per watt pada infrastruktur Vera Rubin.

Penggunaan agen kreatif dan keamanan data

WPP menguji arsitektur referensi agen kreatif pada A5X berbasis Vera Rubin dengan model NVIDIA Nemotron dan NVIDIA OpenShell. Agen itu menerjemahkan permintaan percakapan menjadi alur kerja kreatif bertahap, termasuk membuat, meningkatkan resolusi, dan mengubah gaya video. Pelaksanaan tetap menunggu persetujuan manusia.

Hasil pengujian awal menunjukkan beban kerja yang biasanya memerlukan klaster multi-node dapat dijalankan pada satu instance A5X. OpenShell menyediakan lingkungan dengan tata kelola untuk membantu membatasi akses agen ke aset merek dan perangkat kreatif.

Google Cloud juga akan menjadi salah satu penyedia cloud pertama yang menawarkan NVIDIA Confidential Computing pada skala rak melalui instance bare metal, termasuk A4X Max berbasis NVIDIA GB300 NVL72. Pada G4 VM dengan GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, Confidential Computing telah tersedia umum untuk inferensi dan fine-tuning rahasia.

Vertebrae, Polaris Cloud, dan Confidential Core AI menggunakan Confidential G4 untuk privasi percakapan, pelaksanaan agen yang dapat diverifikasi, serta kecerdasan perusahaan dengan tata kelola kebijakan.

Baca berita lain di Teknologi