CEO OpenAI Sam Altman menilai bahwa keberadaan komponen RAM pada komputer pribadi merupakan hal yang buruk di tengah kendala pasokan global. Menurutnya, pemanfaatan memori tersebut akan jauh lebih optimal jika terpusat di dalam fasilitas pusat data.
Pandangan Alokasi Global Memori
Pernyataan tersebut disampaikan oleh Altman saat menjadi nempit dalam siniar Cheeky Pint ketika menanggapi pertanyaan seputar kekurangan rantai pasok global, termasuk kelangkaan RAM yang sedang berlangsung. Ia menyoroti anggapan banyak pihak yang menginginkan pemrosesan inferensi secara lokal pada komputer masing-masing.
Banyak orang mengira masalah kapasitas telah selesai berkat kehadiran model sumber terbuka yang dapat dijalankan langsung di perangkat pribadi tanpa memerlukan fasilitas pusat data, ujar Altman. Namun, dari sudut pandang alokasi global, ia menilai situasi tersebut justru kurang efektif.
“A lot of people want local inference. And somehow, they assume that the problem is solved now because we are going to have open-source models, we’re going to be able to run them on our computers, and so we’re not going to need all the stuff in the data center,” kata Altman.
Ia menambahkan bahwa menempatkan pasokan DRAM dunia yang terbatas di dalam komputer masing-masing individu merupakan hal yang buruk karena perangkat tersebut hanya digunakan dalam persentase waktu yang kecil.
“But from a global allocation perspective, actually, it’s quite terrible to have everybody have a bunch of the world’s limited supply of DRAM sitting in their own computer and being used five percent of the time,” ucapnya.
Altman menegaskan bahwa dalam situasi keterbatasan pasokan seperti saat ini, sistem komputasi awan memerlukan tingkat utilisasi yang maksimal, meskipun banyak orang memiliki intuisi yang justru berlawanan dengan prinsip tersebut.
“You want maximum utilization in the cloud if you’re trying to deal with this very supply constrained environment. And somehow everyone’s— many people’s intuition is the opposite of that,” tambahnya.
Dampak Kontrak Jangka Panjang Perusahaan
Pandangan mengenai efisiensi pemanfaatan perangkat keras ini berlaku bagi berbagai perangkat, mulai dari komputer permainan milik perorangan, perangkat pengembang, hingga komputer jinjing layar sentuh terbaru.
Saat ini, perusahaan pembuat memori seperti Samsung dan SK Hynix telah mengikat perjanjian jangka panjang dengan para operator layanan komputasi awan serta berbagai proyek berskala besar seperti Stargate milik OpenAI. Kerja sama tersebut telah mengamankan sebagian besar hasil produksi RAM di seluruh dunia untuk beberapa tahun ke depan.
Gelontoran dana raksasa yang disiapkan oleh perusahaan-perusahaan teknologi demi mengamankan pasokan cip tersebut menjadi faktor utama di balik kenaikan harga jual laptop, telepon seluler, dan berbagai gawai teknologi lainnya di pasaran saat ini.
Sumber: The Verge
