Yerli yazılım şirketi VNGRS, Türkçe odaklı büyük dil modeli Kumru’yu duyurdu. 7,4 milyar parametre üzerine eğitilen yapay zekâ modeli, düşük donanımlı sistemlerde bile çalışabilmesiyle dikkat çekti. Henüz erken aşamada olan Kumru, performans testlerinde umut verici sonuçlar elde etti.
Türkçe odaklı yapay zekâ modeli
VNGRS tarafından geliştirilen Kumru, 45 günlük ön eğitim sürecinde NVIDIA’nın H100 ve H200 GPU’ları üzerinde, 500 GB veriyle eğitildi. Model, Mistral-v0.3 altyapısı üzerine inşa edildi ve Meta’nın LLaMA-3 modelinden destek aldı. Eğitim sürecinde 300 milyar token işleyen yapay zekâ, sonrasında 1 milyon örnekle ince ayar aşamasından geçirildi.
Şirket, Kumru’nun yalnızca Türkçe değil, aynı zamanda İngilizce metinlerde de başarılı sonuçlar verdiğini açıkladı. Modelin özellikle belge özetleme, doğal dil çıkarımı ve soru-cevap gibi metin tabanlı işlemlerde yüksek doğruluk oranı sunduğu belirtildi.
Düşük maliyetli yerel kullanım
Kumru’nun en dikkat çeken özelliği, yalnızca 16 GB VRAM kapasitesine sahip GPU’larda çalışabilmesi oldu. Bu sayede, kurumsal müşteriler yüksek donanım maliyetlerine gerek kalmadan yapay zekâyı şirket içi sistemlerde kullanabilecek. VNGRS, “Kumru RTX A4000 veya RTX 3090 gibi GPU’larda sorunsuz çalışabilir” açıklamasında bulundu.
Karşılaştırma yapmak gerekirse, LLaMA-3.3’ün 70 milyar parametreli versiyonunu yerel olarak çalıştırmak için 140 GB VRAM gerekirken, Kumru yalnızca 2.000 dolar maliyetli bir sistemde işlevsel hale gelebiliyor.
Kumru’nun performans testleri
Kumru, Türkçe dil modelleri için hazırlanan Cetvel adlı test setinde 26 farklı kategoride değerlendirildi. Dil bilgisi düzeltme, belge özetleme, makine çevirisi ve metin sınıflandırması gibi alanlarda test edilen model, birçok rakibini geride bıraktı. Henüz geliştirme aşamasında olmasına rağmen, ortalama skorlarında yüksek başarı elde etti.
Mobilde çalışan versiyonu da hazır
VNGRS, Kumru’nun daha hafif bir versiyonu olan Kumru-2B’yi de Huggingface üzerinde yayınladı. 2B versiyonu yalnızca 4,8 GB bellek gerektiriyor ve bu sayede mobil cihazlarda dahi çalışabiliyor. Her iki model de 8.192 Türkçe token desteğine sahip.
Yerli teknoloji girişimi VNGRS, Kumru ile Türkçe yapay zekâ modelleri alanında önemli bir adım attı. Şirket, modeli geliştirmeye devam ederek daha geniş kullanım alanlarına yaymayı hedefliyor.
