Thinking Machines Lab Rilis Inkling 2 Small, Model 594 Miliar Parameter

Thinking Machines Lab, perusahaan milik mantan CTO OpenAI Mira Murati, meluncurkan model AI baru bernama Inkling 2 Small pada 5 November 2026. Model ini adalah Mixture-of-Experts dengan total 594 miliar parameter dan 17 miliar parameter aktif per token. Model ini juga memiliki enkoder vision berukuran 292 miliar parameter.

Model ini saat ini berjalan tertutup di platform Tinker. Bobot penuh dengan lisensi Apache 2.0 direncanakan dirilis minggu depan setelah pengujian keamanan eksternal. Model ini dilatih pada 8,4 triliun token sebelum fase reasoning yang panjang sampai ke lintasan 1 juta token.

Inkling 2 Small mencoret 31 pada Artificial Analysis Intelligence Index. Pada SWEBench Pro Hard, model ini mencapai 86,3 persen. Pada DeepSWE, nilai adalah 72,1 persen. Angka ini menunjukkan model ini kuat dalam tugas pemrograman dan analisis.

Perusahaan ini baru saja menutup putaran pendanaan 5 miliar dolar yang dipimpin Accel dengan valuasi pra-money 40 miliar dolar. Ini lebih dari tiga kali lipat dari valuasi sekitar 12 miliar dolar dari putaran seed 2 miliar dolar tahun lalu. Nvidia sedang dalam pembicaraan untuk menginvestasikan sekitar 2,5 miliar dolar secara terpisah.

MoE: Hanya 17 Miliar Aktif dari 594 Miliar

Angka yang paling membedakan model ini adalah rasio antara total dan aktif: 594 miliar parameter total, hanya 17 miliar yang menyala setiap token. Rasio sekitar 35 banding 1 ini adalah ciri khas Mixture-of-Experts, arsitektur di mana model terdiri dari banyak sub-network kecil yang disebut experts, dan hanya beberapa yang dipilih tiap kali model menjawab.

Analogi warung kopinya begini: bayangkan satu dapur punya 35 koki, tapi tiap pesanan cuma dikerjakan 1 koki yang paling paham menu itu. Total stafnya 35 orang, tapi setiap pelanggan dilayani satu orang. Biaya yang dibayar pelanggan tetap biaya satu koki, meski dapurnya mempekerjakan 35.

Kenapa ini penting untuk biaya inferensi: memproses satu token hanya mengaktifkan 17 miliar parameter, jadi biaya komputasi per token jauh lebih murah daripada model padat berukuran 594 miliar. Inilah keuntungan teknis MoE yang sudah dijanjikan sejak bertahun-tahun, dan inilah yang membuat angka 594 miliar terdengar besar tetapi biayanya kecil.

Konsekuensinya ada di memori: seluruh 594 miliar parameter tetap harus dimuat ke memori GPU sebelum model bisa berjalan, karena experts mana pun bisa dipanggil kapan saja. Model MoE murah dipakai tetapi rakus memori, dan itu batasan nyata bagi siapa pun yang ingin menjalankannya di rumah.

Enkoder Vision 292 Miliar dan Lintasan 1 Juta Token

Model ini membawa 292 miliar parameter khusus untuk vision, enkoder yang mengubah gambar dan video menjadi masukan yang bisa dibaca model bahasa. Angkanya tidak kecil: ia kira-kira 17 kali ukuran jalur teks aktifnya. Ini menempatkan Inkling 2 Small di kelas multimodal yang serius, bukan model teks yang ditempeli kemampuan gambar seadanya.

Panjang pelatihannya juga luar biasa. Model dilatih pada 8,4 triliun token, lalu dilanjutkan fase reasoning panjang sampai lintasannya mencapai 1 juta token. Satu juta token itu kira-kira sama dengan menampung beberapa novel pendek sekaligus dalam satu penalaran tanpa terputus.

Perlu dicatat bahwa angka panjang ini adalah panjang lintasan penalaran selama pelatihan, bukan klaim bahwa model ini menjawab panjang seperti itu di setiap percakapan. Biaya setiap jawaban tetap dihitung dari panjang aktualnya, jadi penggunaan model yang panjang memang mahal meski per token-nya murah.

Tinker: Model Tertutup di Platform Semi-Terbuka

Jalur rilis Inkling 2 Small yang tidak biasa adalah ia diluncurkan dulu lewat Tinker, platform milik Thinking Machines sendiri, sebelum bobotnya dibuka. Di Tinker, pengembang bisa memanggil model ini lewat API tanpa mengunduhnya. Setelah pengujian keamanan eksternal selesai, bobot penuh Apache 2.0 rencananya dirilis minggu depan.

Urutan ini masuk akal dari sisi keamanan: model sebanyak 594 miliar parameter yang baru diluncurkan adalah permukaan serangan yang besar. Mengujinya di belakang API dulu memberi perusahaan waktu melihat bagaimana model berperilaku di tangan pengguna nyata sebelum bobotnya tersebar tak terkendalikan.

Risiko dari pendekatan ini juga jelas: selama bobot belum ada, komunitas open-weight tidak bisa menjalankan model ini sendiri, mereplikasi hasilnya, atau menguji klaim benchmark-nya. Semua angka yang dibaca publik untuk saat ini adalah angka dari pihak perusahaan dan evaluatornya, bukan dari percobaan mandiri.

Apa Arti Apache 2.0 untuk Pembaca

Lisensi Apache 2.0 adalah lisensi terbuka yang paling longgar di antara lisensi populer: siapa pun boleh memakai, memodifikasi, dan membagikan model ini bahkan untuk keperluan komersial, tanpa biaya lisensi. Yang diperbolehkan hanya tiga hal yang lumrah: beri atribusi, tunjukkan perubahan yang dibuat, dan jangan memakai nama pemilik sebagai dukungan.

Kalau bobot benar-benar dirilis minggu depan, pengembang bisa fine-tuning Inkling 2 Small untuk kasus spesifik mereka, menjalankannya di infrastruktur sendiri, dan bebas dari ketergantungan pada API pihak mana pun. Ini beda jauh dari lisensi semacam "research only" yang sering dipakai model besar lain.

Namun perlu dijaga dua hal. Pertama, judulnya "direncanakan" dan "setelah pengujian keamanan", yang berarti jadwal itu bisa bergeser dan status belum pasti sampai bobotnya benar-benar ada di repositori. Kedua, belum ada satu pun pihak luar yang bisa membenarkan angka-angka rilis ini, karena bobotnya memang belum bisa diunduh dan diuji siapa pun.

Analisis Mendalam: Posisi Thinking Machines di Pasaran Model AI

Thinking Machines Lab didirikan oleh Mira Murati setelah ia meninggalkan OpenAI. Perusahaan ini cepat menjadi salah satu startup AI paling berharga di dunia. Dengan pendanaan 5 miliar dolar, mereka memiliki sumber daya untuk bersaing dengan laboratorium besar seperti OpenAI, Anthropic, dan Google DeepMind.

Berikut perbandingan dengan model open-weight lain:

Inkling 2 Small menawarkan parameter aktif yang relatif kecil dibanding totalnya. Ini membuat model ini efisien dalam inferensi. Tapi bobot belum tersedia, jadi komunitas belum bisa menjalankannya secara lokal.

Implikasi bagi startup AI juga cukup signifikan. Dengan lebih banyak model open-weight yang tersedia, startup tidak tergantung hanya pada satu vendor. Mereka bisa mencoba berbagai model untuk mencari yang paling sesuai dengan kebutuhan mereka.

Bagi Indonesia, rilis model open-weight dari Thinking Machines memberikan pilihan baru. Developer lokal bisa menunggu bobot Apache 2.0 untuk mencoba model ini tanpa biaya lisensi tinggi. Namun, ketersediaan masih tergantung pada jadwal rilis bobot. Kompasnya sudah berubah: bukan lagi soal apakah model open-weight besar akan ada, melainkan seberapa cepat bobotnya benar-benar bisa didownload dan diuji publik.

Dampak Bagi Startup AI

Kehadiran Thinking Machines Lab sebagai pemain baru di pasaran AI memberi dampak bagi ekosistem startup AI. Pertama, lebih banyak model open-weight yang tersedia berarti startup lokal tidak tergantung hanya pada satu vendor. Kedua, kompetisi yang semakin ketat antara laboratorium AI besar dapat menekan biaya penggunaan model bagi startup. Ketiga, keberhasilan Thinking Machines Lab dalam mendapatkan pendanaan besar menunjukkan bahwa investor masih optimis tentang sektor AI.

Namun, startup di Indonesia masih menghadapi beberapa tantangan. Keterbatasan infrastruktur komputasi masih menjadi hambatan besar. Biaya sewa GPU untuk training dan inferensi masih mahal bagi banyak startup lokal. Selainnya, talenta AI yang berpengalaman masih relatif sedikit di Indonesia.

Dengan demikian, rilis Inkling 2 Small adalah berita positif bagi ekosistem AI, tapi masih perlu dukungan lebih dari berbagai pihak untuk memaksimalkan manfaatnya. Pembaca yang mengikuti rilisan bobotnya minggu depan akan mendapat gambaran paling jujur ketika komunitas open-weight akhirnya bisa menjalankan dan mengukur model ini sendiri, tanpa bergantung pada angka dari pihak perusahaan. Satu-satunya hal yang bisa memastikan rilis ini berarti besar adalah bobot yang benar-benar tiba dan bisa diuji publik, bukan sekadar janji jadwal.

Daftar Istilah Kunci

• Thinking Machines Lab: Perusahaan AI milik Mira Murati
• Mira Murati: Mantan CTO OpenAI
• Inkling 2 Small: Model MoE 594 miliar parameter
• Apache 2.0: Lisensi open source yang memungkinkan penggunaan komersial
• MoE: Mixture-of-Experts, arsitektur model AI
• SWEBench: Benchmark untuk menguji kemampuan pemrograman AI
• DeepSWE: Benchmark pemrograman yang lebih sulit
• Tinker: Platform API milik Thinking Machines untuk menjalankan model secara tertutup