Yapay zekâ teknolojilerinde son dönemde dikkat çeken yeni eğilimlerden biri, kişiye ve kuruma özel çalışan “yerel yapay zekâ” sistemleri oldu. Kullanıcı verilerini buluta göndermeden çalışan bu sistemlerde en çok kullanılan uygulamalar arasında Ollama, LM Studio, Jan AI ve AnythingLLM bulunuyor. Bu platformlar sayesinde kullanıcılar büyük dil modellerini doğrudan bilgisayarlarına indirerek internet bağlantısı olmadan da yapay zekâ kullanabiliyor. Boyutları 40 ila 70 GB arasında değişebilen uygulamalar; toplantı planlama, alarm kurma, belge özetleme, e-posta hazırlama ve internette araştırma yaparak kullanıcıya anlamlı yanıtlar oluşturma gibi birçok işlemi kişisel asistan mantığıyla yerine getiriyor.
BİLGİYİ CİHAZ DIŞINA ÇIKARMAYAN SİSTEM
Özellikle veri ve siber güvenlik kaygıları, bu sistemlere olan ilgiyi artırıyor. Geleneksel bulut tabanlı yapay zekâ platformlarında kullanıcı verilerinin şirket sunucularına gönderilmesi, işlenmesi ve bazı durumlarda model geliştirme süreçlerinde kullanılabilmesi tartışmalara neden olurken, yerel çalışan yapay zekâ modellerinde veriler cihaz dışına çıkmadan işleniyor. Bu durum; finans, sağlık, savunma sanayii, hukuk ve medya gibi hassas veri kullanan sektörlerde önemli bir avantaj sağlıyor.
ÜLKELERİN EGEMENLİK ARAYIŞI HIZLANDI
Teknoloji dünyasında özellikle ABD, Fransa, Almanya, Singapur ve Çin bu alana ciddi yatırım yapan ülkeler arasında gösteriliyor. Avrupa Birliği, “dijital egemenlik” yaklaşımı kapsamında yerel ve güvenilir yapay zekâ sistemlerine yüz milyonlarca avroluk destek programları başlattı. Avrupa Komisyonu’nun bu yıl duyurduğu program kapsamında yapay zekâ altyapısı ve güvenilir veri sistemleri için 307 milyon avronun üzerinde kaynak ayrıldı. Fransa merkezli girişimler ise Avrupa’nın “egemen yapay zekâ” ekosistemini kurmak için milyarlarca avroluk veri merkezi yatırımları planlıyor. Özellikle Mistral AI gibi şirketler, Avrupa’nın ABD ve Çin’e bağımlılığını azaltmayı hedefleyen projelerin merkezinde yer alıyor.
MALİYETİ 30 BİN TL’DEN BAŞLIYOR
- Uzmanlara göre yerel yapay zekâ sistemlerini verimli kullanabilmek için ortalama bir kullanıcının 30 bin ila 120 bin TL arasında değişen donanım yatırımı yapması gerekebiliyor. Kurumsal tarafta ise bu rakam sunucu altyapıları nedeniyle milyonlarca liraya kadar çıkabiliyor. Sektör temsilcileri, önümüzdeki dönemde genel bulut tabanlı yapay zekâ sistemleri ile cihaz içinde çalışan “kişisel yapay zekâ” modellerinin birlikte büyüyeceğini öngörüyor. Özellikle şirketlerin müşteri verilerini koruma isteği, siber güvenlik kaygıları ve veri regülasyonları nedeniyle “private AI” çözümlerine yöneldiği belirtiliyor.