Restartid.com – IBM (NYSE: IBM) resmi meluncurkan Granite 3.2, generasi terbaru dari keluarga Large Language Model (LLM) Granite. Model AI terbaru ini dirancang untuk menjadi lebih kecil, efisien, dan praktis, dengan tujuan memberikan dampak nyata bagi perusahaan.
Granite 3.2 tersedia secara open-source dengan lisensi Apache 2.0 di Hugging Face. Selain itu, beberapa model tertentu sudah bisa diakses melalui IBM watsonx.ai, Ollama, Replicate, dan LM Studio, serta akan segera hadir di RHEL AI 1.5.
Fitur Baru di Granite 3.2
IBM menghadirkan beberapa peningkatan signifikan dalam model AI ini, termasuk kemampuan baru di sektor pemrosesan dokumen, penalaran, dan keamanan siber.
1. Visual Language Model (VLM) yang Lebih Canggih
Granite 3.2 kini dibekali Visual Language Model (VLM) yang memungkinkan pemahaman dokumen dengan akurasi lebih tinggi. Model ini diklaim memiliki kinerja yang setara atau bahkan melampaui model besar seperti Llama 3.2 11B dan Pixtral 12B pada benchmark perusahaan, termasuk DocVQA, ChartQA, AI2D, dan OCRBench.
Untuk meningkatkan kemampuan VLM dalam menangani dokumen yang kompleks, IBM menggunakan Docling Toolkit, sebuah perangkat open-source yang mampu memproses 85 juta file PDF dan menghasilkan 26 juta pasangan pertanyaan-jawaban sintetis.
2. Kemampuan Chain of Thought yang Ditingkatkan
Granite 3.2 juga hadir dengan peningkatan dalam penalaran berbasis Chain of Thought (CoT), terutama pada model 2B dan 8B. Dengan fitur ini, pengguna dapat mengaktifkan atau menonaktifkan penalaran untuk meningkatkan efisiensi.
Sebagai hasilnya, model 8B mampu mencatat peningkatan performa dua digit dibandingkan pendahulunya dalam mengikuti instruksi seperti ArenaHard dan Alpaca Eval, tanpa mengorbankan keamanan atau kinerja.
Selain itu, metode inference scaling yang baru memungkinkan Granite 3.2 8B untuk menyamai atau bahkan melampaui model yang jauh lebih besar, seperti Claude 3.5 Sonnet dan GPT-4o, pada benchmark matematika AIME2024 dan MATH500.
3. Model Sekuriti Lebih Ramping dengan Performa Optimal
Granite 3.2 juga membawa penyempurnaan pada model keamanan Granite Guardian, yang kini hadir dalam ukuran lebih kecil namun tetap mempertahankan kinerja Granite 3.1 Guardian sebelumnya.
IBM juga memperkenalkan fitur baru bernama “verbalized confidence”, yang memungkinkan sistem menilai risiko dengan lebih baik dan memahami tingkat ambiguitas dalam pemantauan siber.
Strategi IBM dalam menghadirkan AI yang lebih kecil dan lebih spesifik untuk perusahaan terbukti memberikan hasil positif. Sebagai contoh, Granite 3.1 8B baru-baru ini mencatat skor tinggi dalam Salesforce LLM Benchmark untuk CRM.
Ekosistem Kuat dan Dukungan Industri
IBM terus memperkuat ekosistem mitranya, termasuk kolaborasi dengan berbagai perusahaan perangkat lunak yang mengintegrasikan LLM Granite ke dalam teknologi mereka.
David Tan, CTO CrushBank, mengungkapkan bahwa model AI IBM telah memberikan nilai nyata bagi perusahaan, dengan kombinasi kinerja tinggi, biaya efektif, dan skalabilitas.
“Granite 3.2 membawa kemampuan penalaran baru, dan kami sangat antusias untuk mengembangkan solusi agen berbasis AI dengan model ini,” ujar Tan.
Granite 3.2 dan Masa Depan AI yang Lebih Efisien
IBM percaya bahwa efisiensi, integrasi, dan dampak dunia nyata adalah kunci dalam evolusi AI. Dengan fitur Chain of Thought yang bisa dinonaktifkan, perusahaan dapat menghemat daya komputasi, terutama untuk tugas-tugas yang lebih sederhana.
Selain itu, IBM terus mengeksplorasi teknik seperti inference scaling, yang memungkinkan model AI lebih kecil menyaingi model besar dalam tugas penalaran matematika.
Bersamaan dengan peluncuran Granite 3.2, IBM juga menghadirkan generasi terbaru dari TinyTimeMixers (TTM), model AI ringan dengan kurang dari 10 juta parameter. Model ini mampu melakukan prediksi jangka panjang hingga dua tahun ke depan, yang sangat berguna untuk analisis tren keuangan, prediksi permintaan rantai pasokan, dan perencanaan inventaris ritel.
IBM Siap Membawa AI ke Level Selanjutnya
Sriram Raghavan, VP IBM AI Research, menegaskan bahwa IBM berfokus pada pengembangan AI yang lebih terbuka, hemat biaya, dan bernilai bagi perusahaan modern.
“Era AI berikutnya bukan hanya tentang kekuatan model besar, tetapi tentang efisiensi dan dampaknya di dunia nyata. Dengan Granite 3.2, kami menghadirkan AI yang lebih terjangkau dan dapat diakses oleh lebih banyak perusahaan.”
Dengan inovasi ini, IBM semakin memperkuat posisinya dalam menghadirkan AI yang efisien dan siap digunakan dalam berbagai skenario bisnis.
