Kesepakatan yang diumumkan pada penutupan pasar Kamis lalu ini bukan sekadar perekrutan karyawan, melainkan akuisisi penuh. Meski nilai transaksi dirahasiakan, langkah AMD ini sejajar dengan keputusan Nvidia yang membayar US$20 miliar untuk lisensi teknologi Groq pada Desember lalu. Keduanya sama-sama memburu pasar "inferensi premium"—layanan AI berkecepatan tinggi untuk agen AI dan asisten coding yang butuh respons instan.
Bukan GPU Biasa: Menanam Bobot Model ke Dalam Chip
Taalas tidak mengandalkan High Bandwidth Memory (HBM) untuk menyimpan bobot model seperti GPU konvensional. Sebaliknya, bobot model tersebut diukir langsung ke dalam silikon. Hasilnya adalah sirkuit terpadu khusus model, atau yang mereka sebut MSIC (Model-Specific Integrated Circuit).
Teknologi ini bukan sekadar konsep. Pada Februari lalu, Taalas memperkenalkan chip uji coba bernama HC1 yang diproduksi dengan proses 6nm milik TSMC. Dalam pengujian awal, chip tersebut melayani model Llama 3.1 8B milik Meta dengan kecepatan mencengangkan: 16.960 token per detik. Saat diumumkan, angka itu 48 kali lebih cepat dari GPU Nvidia dan 8,5 kali lebih cepat dari akselerator buatan Cerebras.
Chip seukuran reticle ini memang dirancang untuk membuktikan konsep. Namun Taalas tidak berhenti di situ. Generasi kedua, HC2, dijadwalkan rilis musim panas ini dengan kapasitas 20 miliar parameter per chip. Untuk model triliunan parameter, hanya perlu 50 akselerator yang disusun secara paralel—jauh lebih hemat ruang dan daya dibanding sistem Nvidia yang membutuhkan puluhan GPU dan 2.000 Groq LPU untuk tugas serupa.
Arsitektur Hibrida: GPU untuk Berpikir, Chip Taalas untuk Menjawab
Dari informasi yang dihimpun, AMD berencana memasangkan chip berbasis teknologi Taalas dengan rak server Helios yang selama ini mengandalkan akselerator Instinct. Ini mengindikasikan arsitektur terpisah: GPU menangani pemrosesan prompt yang berat, sementara akselerator Taalas mengambil alih tugas token generation yang membutuhkan kecepatan tinggi.
Kemungkinan lain, AMD mengadopsi ritme "tick-tock" di mana pelanggan menguji dan memvalidasi model pada akselerator Instinct terlebih dahulu, lalu memindahkannya ke akselerator Taalas setelah yakin. Vamsi Boppana, SVP AI AMD, dalam pernyataan resminya mengatakan: "AMD sedang membangun platform AI full-stack yang memberi pelanggan fleksibilitas untuk menggunakan solusi komputasi yang tepat untuk setiap beban kerja AI."
Konsekuensi Besar: Model AI yang "Dikunci" di Dalam Chip
Kecepatan memang luar biasa, tapi ada harga yang harus dibayar. Setelah chip diproduksi dan dipasang, model yang tertanam di dalamnya tidak bisa diganti. Perubahan besar pada model—selain penyesuaian kecil seperti LoRA adapter—mengharuskan produksi ulang chip. Proses ini mahal dan memakan waktu.
Di tengah siklus rilis model AI yang hampir bulanan, ini risiko besar. Namun Taalas mengklaim situasinya tidak separah kelihatannya. Untuk model baru, hanya dua lapisan logam yang perlu diubah, bukan seluruh desain chip dari nol. Biayanya pun jauh lebih rendah: perusahaan menyebut mengukir bobot model ke silikon 100 kali lebih murah daripada melatih model frontier.
Pelanggan potensial teknologi ini kemungkinan besar adalah pengembang model AI seperti OpenAI, Anthropic, dan Meta—yang semuanya sudah menjadi pelanggan besar produk Instinct AMD. Dengan hubungan yang sudah erat, tidak mengejutkan jika model GPT atau Claude suatu hari nanti berjalan di atas kombinasi akselerator Taalas dan Instinct.
Dampak untuk Pengembangan Model: Lebih Sedikit Halusinasi, Lebih Cepat Berpikir
Teknologi ini juga membuka peluang baru dalam pengembangan model. Salah satu cara mengurangi halusinasi AI adalah dengan memberi model waktu "berpikir" lebih lama—teknik bernama test-time scaling. Namun metode ini boros token dan membuat pengguna menunggu lebih lama.
Jika akuisisi ini berhasil menekan biaya per token dan meningkatkan kecepatan output 10 hingga 20 kali lipat, pengembang model bisa memperpanjang waktu penalaran tanpa mengorbankan pengalaman pengguna. Kesepakatan ini dijadwalkan rampung pada kuartal keempat tahun ini, menunggu persetujuan regulasi.
