PrismML, küçük LLM'sinin hepimizin yapay zekayı kullanma şeklini değiştireceğini umuyor

Disrupt 2026: OpenAI, Anthropic, Replit ve daha fazlası 6 sektör aşamasını ele geçiriyor. Biletler şimdi %25 indirimli Yapay zeka laboratuvarı PrismML henüz radarınızda değilse, büyük miktarlarda para topladığı için değil (henüz sadece 22,25 milyon dolarlık bir başlangıç turu elde etmedi), ilgili teknik beyinler ve geliştirmekte olduğu potansiyel olarak endüstriyi değiştirecek teknoloji nedeniyle öyle olmalıdır. PrismML, yetenekli, yüksek performanslı, mantıklı büyük dil modellerinin aslında büyük olması gerekmediğine inanıyor. Akıl yürütme modellerini bilgisayarlara ve akıllı telefonlara sığabilecek kadar küçük hale getiriyor. (Hatta CEO Babak Hassibi TechCrunch'a bu konuda yorum yapmayı reddetse de Apple ile görüşmelerde olduğu bile söyleniyor.) Perşembe günü PrismML, model ailesinin en sonuncusu olan ve yaygın olarak kullanılan açık kaynak modeli Qwen3.8 27B'yi Alibaba'den 5,9 GB'a kadar sıkıştıran Bonsai 2 27B'yi piyasaya sürdü. Bu, bir PC'ye ve muhtemelen üst düzey bir akıllı telefona sığacak kadar küçüktür. Orijinaline kıyasla bellekte 9 ila 10 kat arasında bir azalma var. PrismML, bir grup Caltech araştırmacısı tarafından kuruldu ve Caltech profesörü ve sıkıştırma teknolojileri uzmanı Hassibi tarafından yönetiliyor. Girişim aynı zamanda Ion Stoica'yı da danışman olarak görüyor.

Stoica, Databricks'in (ve diğer şirketlerin) kurucu ortağıdır ve Berkeley'in, Letta'dan SGLang'a kadar pek çok teknolojiyi ve yeni girişimi doğuran ünlü Sky Computing Lab'ın yöneticisidir. PrismML aynı zamanda yatırımcılar Khosla Ventures, Cerberus Capital ve Caltech tarafından da desteklenmektedir. Bu girişim kesinlikle LLM sıkıştırma teknolojisi üzerinde çalışan tek şirket değil. İspanya'nın Donostia Uluslararası Fizik Merkezi'nden tanınmış bir profesör tarafından kurulan Multiverse Computing bir diğeri. (Ve Çoklu Evren Bilgi İşlem büyük miktarda nakit para topladı.) Ancak Hassibi, PrismML'in sıkıştırma teknolojisinin benzersiz olduğunu çünkü LLM'lerin orijinalleriyle karşılaştırıldığında neredeyse hiç performans kaybetmediğini söylüyor. Bonsai 2, Qwen'nin toplam kıyaslama puanlarının %98'iyle eşleşiyor. Bu, birkaç ay önce Mart ayında piyasaya sürülen ve %95'le eşleşen ilk Bonsai'den geliyor. Şirket, bu orijinal modelin halihazırda 11 milyondan fazla indirildiğini ve PrismML'in daha küçük modellerinin de 2,6 milyon kez indirildiğini söylüyor. Bu da PrismML'in sıkıştırma sonuçlarının bir sürümden diğerine geliştiğini gösteriyor. Yüzde 100 kıyaslama performans eşitliğine ulaşıp ulaşamayacağı henüz bilinmiyor.