Oleh Alexey Navolokin, General Manager, APAC
Tidak ada yang benar-benar tahu seperti apa wajah kecerdasan buatan (AI) lima tahun mendatang. Arsitektur model apa yang akan menjadi dominan, bagaimana keseimbangan antara training dan inference terbentuk, hingga di mana AI akan paling banyak dijalankan—di data center, infrastruktur cloud, laptop, atau perangkat yang lebih kecil—semuanya masih terus berkembang.
Namun, ketidakpastian tersebut tidak berarti perusahaan dapat menunda keputusan. Para pemimpin infrastruktur tetap harus mengambil keputusan dan melakukan investasi hari ini untuk membangun fondasi teknologi informasi yang mampu menopang bisnis dalam lima hingga tujuh tahun mendatang.
Di sinilah tantangan terbesar muncul. Risiko sebenarnya bukan semata-mata memilih teknologi yang keliru hari ini. Risiko yang lebih besar adalah membangun infrastruktur yang terlalu kaku sehingga tidak mampu mengikuti perubahan kebutuhan ketika workload AI terus berkembang.
Karena itu, cara kita memandang infrastruktur AI perlu diubah. Fokus tidak seharusnya berhenti pada satu chip, GPU, atau fabric tertentu. Pertanyaan yang jauh lebih mendasar adalah: seberapa mudah sebuah sistem beradaptasi ketika kebutuhan AI berubah?
Adaptabilitas Menjadi Prinsip Desain
Beberapa tahun lalu, istilah “infrastruktur AI” identik dengan training berskala besar. Beban kerja tersebut umumnya berlangsung secara batch dan dapat diprediksi pada satu cluster besar.
Kondisinya kini berubah. Training tetap menjadi bagian penting, tetapi harus berjalan berdampingan dengan inference, Agentic AI, serta berbagai workload terdistribusi yang memiliki kebutuhan berbeda-beda.
Inference misalnya, berlangsung secara terus-menerus dan sangat sensitif terhadap latensi serta biaya setiap permintaan. Sementara Agentic AI membuat proses tersebut semakin kompleks karena satu permintaan dapat berkembang menjadi serangkaian langkah.
Satu permintaan dapat melibatkan pengambilan dan pembentukan input, pemanggilan tools, eksekusi kode, koordinasi sub-agent, hingga mempertahankan state dalam periode yang lebih panjang.
Perubahan tersebut bukan sekadar meningkatkan kebutuhan komputasi. Bentuk sistemnya pun ikut berubah. Infrastruktur yang dirancang terutama untuk training cluster tidak selalu memiliki keseimbangan komputasi, memori, dan jaringan yang sesuai dengan pola kerja AI saat ini.
Karena itu, persoalannya tidak selalu dapat diselesaikan dengan membeli lebih banyak perangkat keras yang sama. Yang dibutuhkan adalah cara berpikir yang lebih menyeluruh: mengoptimalkan sistem sebagai satu kesatuan.
Komputasi, memori, jaringan, penyimpanan, software, daya, dan keandalan harus dirancang agar dapat bekerja bersama. Menskalakan sesuatu yang sudah dikenal mungkin merupakan persoalan anggaran. Namun, menghadapi workload baru adalah persoalan arsitektur dan operasional.
Tiga Sifat untuk Mempertahankan Kebebasan
Ketika kebutuhan AI terus berubah, tujuan desain infrastruktur seharusnya bukan mencoba menebak teknologi mana yang akan menjadi pemenang. Tujuannya adalah mempertahankan kebebasan untuk beralih ketika teknologi berikutnya muncul.
Setidaknya ada tiga sifat yang menjadi penting.
Pertama, adaptable atau adaptif. Organisasi membutuhkan portofolio teknologi yang cukup luas sehingga ketika workload berubah, jawabannya dapat berupa konfigurasi berbeda, bukan harus mengganti seluruh vendor.
Komputasi juga perlu dipasangkan dengan jenis pekerjaan yang tepat, dengan fondasi software bersama yang membuat perpindahan tersebut tetap praktis.
Kedua, economical atau ekonomis. Ekonomis tidak selalu berarti paling murah. Yang lebih penting adalah membayar perangkat dan kapasitas yang tepat untuk pekerjaan yang tepat.
Training biasanya merupakan keputusan investasi modal yang dilakukan secara berkala. Sebaliknya, inference merupakan keputusan operasional yang dapat terjadi miliaran kali dalam sehari.
Dalam Agentic AI, satu permintaan bahkan bukan sekadar satu inference, melainkan rangkaian inference. Karena itu, metrik yang perlu diperhatikan bukan hanya biaya per token, melainkan biaya untuk menyelesaikan satu tugas.
Ketiga, open atau terbuka. Ekosistem terbuka memberikan pilihan melalui standar yang diadopsi secara luas. Hal tersebut membantu pelanggan menghindari ketergantungan sepenuhnya pada roadmap produk satu vendor.
Inilah mengapa interkoneksi terbuka dan open networking menjadi semakin penting. Keterbukaan memberikan ruang bagi organisasi untuk menentukan kombinasi teknologi sesuai kebutuhan tanpa kehilangan fleksibilitas untuk berubah di kemudian hari.
Peran Portofolio AMD
Prinsip tersebut menjadi salah satu alasan AMD berinvestasi di berbagai bagian technology stack, bukan hanya pada satu produk.
Kebutuhan AI saat ini sangat beragam. Untuk inference, tokenization, orchestration, dan komputasi general-purpose, misalnya, tersedia AMD EPYC™ Server CPUs. Sementara model yang lebih kecil dan kebutuhan AI lokal dapat dijalankan pada platform AMD Radeon™ dan AMD Ryzen™ AI.
Untuk inference dan fine-tuning large language model, AMD menawarkan kartu AMD Instinct™ PCIe. Sementara kebutuhan distributed inference dan training dapat memanfaatkan sistem GPU AMD Instinct™ delapan GPU yang dapat dikembangkan hingga solusi rackscale AMD Helios™ untuk deployment berskala besar.
Namun, keluasan produk saja bukanlah inti persoalan. Portofolio yang luas tanpa fondasi software bersama hanya akan menjadi katalog produk.
Keluasan yang didukung software justru menjadi fleksibilitas. Melalui software AMD ROCm™, AMD berupaya memungkinkan perangkat keras untuk berbagai workload digunakan dalam ekosistem software yang sama sehingga organisasi tidak harus memulai dari awal setiap kali kebutuhan berubah.
Pendekatan tersebut juga didukung prinsip keterbukaan. Setiap komponen dapat dipilih berdasarkan kemampuannya untuk menjalankan workload tertentu, tanpa harus bergantung pada asumsi bahwa seluruh stack harus berasal dari satu vendor.
Infrastruktur yang Siap Berbelok
Dalam lima tahun ke depan, organisasi yang berhasil menghadapi perubahan AI belum tentu mereka yang mampu memprediksi setiap arah perkembangan teknologi.
Justru, mereka yang memiliki kebebasan dan fleksibilitas untuk berbelok ketika perubahan datang akan memiliki ruang gerak lebih besar.
Karena itu, membangun infrastruktur AI bukan semata-mata tentang membeli teknologi dengan kemampuan terbesar. Yang lebih penting adalah membangun sistem yang adaptif, ekonomis, dan terbuka.
Adaptif, agar masa depan—apa pun bentuknya—tetap dapat diakomodasi. Ekonomis, agar investasi diarahkan pada alat yang tepat untuk pekerjaan yang tepat, bukan sekadar perangkat dengan kapasitas terbesar. Dan terbuka, agar pilihan tetap berada di tangan organisasi.
BacaJuga
Satu hal yang dapat dipastikan adalah AI akan terus berubah. Karena itu, infrastruktur seharusnya dibangun dengan asumsi tersebut sejak awal.
Bukan untuk menebak seperti apa masa depan AI, melainkan untuk memastikan kita tetap memiliki kebebasan ketika masa depan itu akhirnya tiba.
