Qualcomm’un Yeni Çipleriyle Cihaz Üzerinde Yapay Zekâ Dönemi

Qualcomm’un yapay zekâ odaklı iki yeni akıllı telefon işlemcisi, gelişmiş modellerin doğrudan mobil donanımda çalıştırılmasına odaklanıyor. Yeni nesil üst segment işlemci, 30 milyar parametreli uzman karışımı modelleri cihaz üzerinde yerel olarak çalıştırma desteğiyle öne çıkıyor. Bu gelişme, işletmeler açısından yalnızca mobil işlem gücüyle ilgili değil; yapay zekâ görevlerinin nerede yürütüleceği, verilerin nasıl işleneceği ve bulut kaynaklarının hangi durumlarda kullanılacağı açısından da önem taşıyor.

Uzman karışımı, bir yapay zekâ modelinin farklı uzman bileşenlerden yararlandığı bir mimariyi ifade ediyor. Qualcomm’un üst segment işlemcisinde belirtilen 30 milyar parametrelik destek, bu mimariye sahip modeller için geçerli. Dolayısıyla bu kapasiteyi aynı büyüklükteki her modelin aynı koşullarda çalışacağı biçiminde yorumlamamak gerekiyor. Kurumsal kullanım değerlendirmesinde parametre sayısı kadar modelin mimarisi, cihazın kaynakları ve yürütülecek görevin gereksinimleri de dikkate alınmalı.

Cihaz üzerinde yapay zekâ, modelin işlem yapmak için her isteği uzaktaki bir sunucuya göndermesi yerine yerel donanımdan yararlanması anlamına geliyor. Bu yaklaşım, uygun görevlerde bulut bağlantısına bağımlılığı azaltabilir ve verinin cihaz dışına aktarılmasına duyulan ihtiyacı sınırlayabilir. Ancak modelin yerel çalışması, uygulamanın bütün işlevlerinin çevrimdışı kullanılacağını tek başına göstermez. Harici veri kaynaklarına veya kurumsal sistemlere erişen akışların bağlantı ihtiyacı ayrıca değerlendirilmelidir.

İşletmeler için yerel işlemenin önemli başlıklarından biri veri gizliliği. Verinin cihazda işlenebilmesi, buluta gönderilen içeriğin azaltılmasına yardımcı olabilir; ancak tek başına eksiksiz güvenlik garantisi sağlamaz. Cihaz erişim kontrolleri, uygulama izinleri ve veri saklama tercihleri önemini korur. Benzer biçimde bulut işlem maliyetlerinde tasarruf potansiyeli bulunsa da gerçek maliyet etkisi, kullanım yoğunluğu, donanım gereksinimleri ve uygulamanın nasıl tasarlandığıyla birlikte ele alınmalıdır.

X Mind Solutions olarak bu gelişmeyi, kurumsal yapay zekâ çözümlerinde iş yükünün nerede çalıştırılacağına ilişkin bir mimari tercih açısından ele alıyoruz. Mobil cihazda yürütülebilecek görevlerle merkezi sistemlere ihtiyaç duyan süreçleri ayırmak, agent ve otomasyon tasarımında daha bilinçli kararlar alınmasına yardımcı olabilir. Qualcomm’un yeni işlemcileri bu seçeneği öne çıkarırken, uygulamaya geçişte model uyumluluğunun, veri akışının ve hedef cihazdaki performansın doğrulanması gerekiyor.