- Katılım
- 13 Ocak 2026
- Mesajlar
- 129
- Tepkime puanı
- 95
- Puan
- 28
Merhaba değerli forum üyeleri,
Yapay zeka modellerini kendi bilgisayarımızda (local) çalıştırmak her zaman heyecan verici olmuştur ama donanım gereksinimleri hepimizin malumu. Ancak bugün PrismML cephesinden gelen haber, oyunun kurallarını tamamen değiştirecek türden. Şirket, Bonsai 27B adını verdiği ve doğrudan akıllı telefonlarda çalışabilen ilk 27 milyar parametreli yapay zeka modelini duyurdu!
Bonsai 27B'nin zeka yoğunluğu (GB başına), aynı parametre sınıfındaki diğer modellerle karşılaştırıldığında.
Normalde 27B boyutundaki bir model 50 GB'ın üzerinde bir alana ve devasa bir RAM'e ihtiyaç duyar. Peki PrismML bunu telefonlara nasıl sığdırdı? Gelin detaylara bakalım.
Qwen 3.6 27B temel alınarak geliştirilen model, "intelligence density" (zeka yoğunluğu) kavramını arşa çıkarıyor. İki farklı versiyonla sunulmuş:
Boyutu küçük diye özelliklerinden kısılmış sanmayın. Bonsai 27B, buluttaki dev rakiplerinin yaptığı çoğu şeyi cihazınızda internetsiz yapabiliyor:
https://vimeo.com/1209748652?fl=pl&fe=cm
Bence bu işin en can alıcı noktası burası. Normalde ChatGPT veya Claude gibi asistanlara bir görev verdiğinizde verileriniz buluta gider ve her sorgu şirketlere bir maliyet yazar. Bonsai 27B tamamen kendi cihazınızda çalıştığı için yüzlerce adımlık karmaşık bir işlem yaptırsanız bile maliyet sıfırdır ve verileriniz asla cihazınızdan dışarı çıkmaz. Üstelik Apache 2.0 lisansıyla tamamen açık kaynaklı!
Kaynak: https://prismml.com/news/bonsai-27b
Yapay zeka modellerini kendi bilgisayarımızda (local) çalıştırmak her zaman heyecan verici olmuştur ama donanım gereksinimleri hepimizin malumu. Ancak bugün PrismML cephesinden gelen haber, oyunun kurallarını tamamen değiştirecek türden. Şirket, Bonsai 27B adını verdiği ve doğrudan akıllı telefonlarda çalışabilen ilk 27 milyar parametreli yapay zeka modelini duyurdu!
Bonsai 27B'nin zeka yoğunluğu (GB başına), aynı parametre sınıfındaki diğer modellerle karşılaştırıldığında.
Normalde 27B boyutundaki bir model 50 GB'ın üzerinde bir alana ve devasa bir RAM'e ihtiyaç duyar. Peki PrismML bunu telefonlara nasıl sığdırdı? Gelin detaylara bakalım.
İnanılmaz Sıkıştırma: 1-bit ve Ternary Teknolojisi
Qwen 3.6 27B temel alınarak geliştirilen model, "intelligence density" (zeka yoğunluğu) kavramını arşa çıkarıyor. İki farklı versiyonla sunulmuş:- 1-bit Bonsai 27B (Telefonlar İçin): Sadece 3.9 GB boyutunda! Özellikle iPhone 17 Pro gibi cihazların bellek limitlerine tam uyacak şekilde tasarlanmış. Orijinal modelin performansının %90'ını koruyabiliyor.
- Ternary Bonsai 27B (Bilgisayarlar İçin): Sadece 5.9 GB boyutunda. M5 Max işlemcili Mac'ler veya RTX 5090 ekran kartlı sistemler için ideal. Orijinal modelin performansının %95'ini koruyor.
Kırpılmış Bir Model mi? Kesinlikle Hayır!
Boyutu küçük diye özelliklerinden kısılmış sanmayın. Bonsai 27B, buluttaki dev rakiplerinin yaptığı çoğu şeyi cihazınızda internetsiz yapabiliyor:- Çoklu Mod (Multimodal): Sadece metin değil; ekran görüntülerini, belgeleri ve kamera görüntülerini de analiz edebiliyor.
- Devasa Hafıza: 262K token bağlam (context) penceresi sunuyor. Yani yüzlerce sayfalık PDF'leri tek seferde okutup özetletebilirsiniz.
- Otonom Ajan (Agentic) Yetenekleri: Kendi kendine araçlar kullanabiliyor, kod yazabiliyor, matematik çözebiliyor ve karmaşık görevleri adım adım planlayarak sonuçlandırabiliyor.
https://vimeo.com/1209748652?fl=pl&fe=cm
Gizlilik ve Sıfır Maliyet
Bence bu işin en can alıcı noktası burası. Normalde ChatGPT veya Claude gibi asistanlara bir görev verdiğinizde verileriniz buluta gider ve her sorgu şirketlere bir maliyet yazar. Bonsai 27B tamamen kendi cihazınızda çalıştığı için yüzlerce adımlık karmaşık bir işlem yaptırsanız bile maliyet sıfırdır ve verileriniz asla cihazınızdan dışarı çıkmaz. Üstelik Apache 2.0 lisansıyla tamamen açık kaynaklı!Kaynak: https://prismml.com/news/bonsai-27b