7 hours ago
12
Oleh Ahmadie Thaha, Kolumnis
REPUBLIKA.CO.ID, Seekor burung kecil sedang mencoba mengangkat gajah. Begitulah kira-kira kesan pertama membaca kisah Colibrì, proyek perangkat lunak yang memungkinkan komputer kelas jangkrik menjalankan otak AI raksasa seperti GLM-5.2.
Otak AI bernama GLM-5.2 itu tersusun dari sekitar 744 miliar parameter — semacam angka-angka hasil belajar yang menentukan bagaimana AI mengenali pola, memahami pertanyaan, dan menyusun jawaban. Setelah dipadatkan pun besar filenya masih sekitar 370 GB.
Tapi ajaibnya, Colibrì bisa menjalankannya pada laptop 12-core dengan RAM hanya 25 GB. Ia tak memasukkan seluruh parameter raksasa itu ke dalam RAM komputer sekaligus. Ia hanya mengambil bagian yang sedang dibutuhkan, sementara bagian lain tetap disimpan di SSD atau NVMe dan baru dipanggil ketika tiba gilirannya bekerja.
Untuk sekarang, Colibrì memang baru menggendong “gajah” bernama GLM-5.2. Otak AI ini mempunyai cara kerja yang disebut Mixture-of-Experts (MoE). Ia dapat diumpamakan seperti sebuah perusahaan dengan 744 ribu pegawai, tapi setiap pekerjaan hanya membutuhkan sekitar 40 ribu orang yang keahliannya sesuai.
Sisanya, 704 ribu tak perlu ikut berdesakan masuk kantor; mereka boleh menunggu sampai keahliannya dibutuhkan. Itulah celah yang dimanfaatkan Colibrì. Pada cara biasa, menjalankan GLM-5.2 membutuhkan komputer dengan memori luar biasa besar atau beberapa kartu grafis kelas atas yang harganya tentu bukan kelas jangkrik.
Colibrì memilih jalan berbeda: yang sedang bekerja masuk RAM, yang belum diperlukan menunggu di SSD. Namun, detail teknisnya tentu lebih rumit. Yang pasti, eksperimen Colibrì membuktikan sesuatu yang tak mungkin menjadi mungkin melalui kreativitas dan kecerdikan mengatasi sebuah masalah.
Nama Colibrì sendiri terasa seperti metafora yang terlalu sempurna untuk disebut kebetulan. Dalam bahasa Italia, colibrì berarti burung kolibri, makhluk mungil dari benua Amerika dengan kemampuan terbang yang tidak biasa. Ia dapat melayang, berputar, melesat, bahkan terbang mundur.
Tubuh kecilnya membutuhkan pasokan energi terus-menerus dari nektar bunga. Kolibri tidak menjadi perkasa dengan membesarkan tubuhnya seperti rajawali. Ia mengatasi keterbatasannya dengan kelincahan dan cara bergerak yang berbeda.
Begitu pula perangkat lunak yang memakai namanya. Ia tidak melawan model AI raksasa dengan komputer yang sama raksasanya. Ia bergerak antara RAM, VRAM, dan tempat penyimpanan di komputer, mengambil yang diperlukan, meninggalkan yang belum diperlukan, lalu berpindah lagi.
Ia tidak mengalahkan berat dengan tenaga, tetapi dengan gerak. Ia tidak menandingi kebesaran dengan kebesaran, tetapi dengan kecerdikan.
Di sinilah Colibrì memberi pelajaran yang lebih luas: keterbatasan tidak selalu harus dijawab dengan menambah kekuatan; kadang ia justru memaksa kita menemukan cara baru via kreativitas.
Kita hidup pada zaman yang gemar menyelesaikan kekurangan dengan penambahan. Komputer lambat, tambah RAM. Model AI tidak muat, beli GPU. Server kurang kuat, beli server baru. Perusahaan kekurangan kapasitas, tambah anggaran. Semua itu tak salah, apalagi kalau ada uang untuk membelinya.
Colibrì lahir justru karena pembuatnya, Vincenzo yang dikenal sebagai JustVugg, tak memiliki mesin yang dianggap pantas menjalankan model sebesar itu. Ia bisa saja menerima nasib: model 744 miliar parameter memang bukan kelas laptop saya. Selesai.
Tetapi Vincenzo tak diam. Ia mengajukan pertanyaan lain: bagian mana dari model sebesar itu yang benar-benar diperlukan pada suatu saat? Dari pertanyaan itulah tembok yang tampaknya kokoh mulai mempunyai pintu.
Dalam sejarah teknologi, pintu semacam itu sering ditemukan oleh mereka yang tak punya cukup uang untuk membeli tembok baru. Keterbatasan memang mempunyai dua wajah: menjadi alasan untuk menyerah, atau menjadi ibu kreativitas.
Sebab kreativitas sering bukan kemampuan membuat sesuatu semakin rumit, melainkan menemukan jalan sederhana yang tak terlihat karena kita terlalu terbiasa dengan jalan mahal.
Bagi kita di Indonesia, pelajaran itu terasa dekat. Tidak setiap sekolah, pesantren, kampus, perpustakaan, kantor hukum, puskesmas, atau lembaga penelitian mampu membeli server AI bernilai ratusan juta hingga miliaran rupiah.
Disclaimer: Pandangan yang disampaikan dalam tulisan di atas adalah pendapat pribadi penulisnya yang belum tentu mencerminkan sikap Republika soal isu-isu terkait.
