Bu içerik, ilgili yazılım ve bilgiler kontrol edilerek güncel sürüm ve kullanım durumuna göre revize edilmiştir.
Yazar: Bünyamin KAYA
- Yandex, akıllı saatler ve kablosuz kulaklıklar için yalnızca yaklaşık 200 KB boyutunda çalışan ultra kompakt bir yapay zeka modeli geliştirdi.
- Yandex sesli komut modeli, bulut bağlantısına ihtiyaç duymadan doğrudan cihaz üzerinde çalışabiliyor.
- İki aşamalı ses işleme sistemi sayesinde model sürekli aktif kalmadan sesli komutları algılayabiliyor.
- Neural network modelindeki parametre sayısı yaklaşık 10 kat azaltılarak enerji tüketimi düşürülmeye çalışıldı.
- Yerel işleme yaklaşımı daha düşük gecikme süresi, daha iyi gizlilik ve daha uzun pil ömrü sağlayabilir.
- Teknoloji, NPU destekli yeni nesil giyilebilir cihazlarda daha verimli yapay zeka işlemleri için tasarlandı.
Yandex, akıllı saatler, kablosuz kulaklıklar ve diğer kompakt AI (Yapay Zeka) cihazları için yalnızca yaklaşık 200 KB boyutunda çalışan ultra kompakt bir neural network (sinir ağı) modeli geliştirdi.
Yeni model, voice control (sesli kontrol) işlemlerini buluta ihtiyaç duymadan doğrudan cihaz üzerinde gerçekleştirebiliyor. Bu sayede hem pil tüketimi azalıyor hem de kullanıcı komutlarına daha hızlı yanıt verilebiliyor.
Bilgi: Modelin yaklaşık 200 KB boyutunda olması, onu akıllı saatler ve kablosuz kulaklıklar gibi sınırlı donanıma sahip cihazlar için özellikle dikkat çekici hale getiriyor.
Yandex’in bu geliştirmesi hakkında açıklama yapan Dmitry Solodukha, teknolojinin özellikle enerji verimliliği ve düşük donanım ihtiyacı gerektiren cihazlar için tasarlandığını belirtti. Bu cihazlar arasında smart watch (akıllı saat), wireless earphones (kablosuz kulaklık) ve farklı kompakt AI gadget (yapay zeka cihazı) türleri yer alıyor.
Giyilebilir cihazlar için neden önemli?
Akıllı telefonlar ve akıllı hoparlörlerle karşılaştırıldığında, wearable device (giyilebilir cihaz) sınıfındaki ürünler çok daha sınırlı işlem gücüne, bellek kapasitesine ve batarya ömrüne sahiptir.
Buna rağmen bir voice activation (sesle etkinleştirme) sistemi, kullanıcıdan gelecek komutu algılamak için çevredeki sesi sürekli takip etmek zorundadır. Bu süreç, yanlış tasarlandığında cihazın pilini hızla tüketebilir ve işlemci üzerinde gereksiz yük oluşturabilir.
Yandex mühendisleri bu sorunu çözmek için konuşma işleme zincirini uçtan uca optimize etti. Optimizasyon yalnızca neural network (sinir ağı) modeliyle sınırlı kalmadı; donanım platformundan ses analiz sürecine kadar tüm yapı yeniden ele alındı.
İki aşamalı ses işleme sistemi kullanılıyor
Geliştirilen sistem, sesi analiz etmek için two-stage processing (iki aşamalı işleme) yaklaşımını kullanıyor.
İlk aşamada, çok hafif bir model ses akışında insan konuşması olup olmadığını kontrol ediyor. Bu model son derece düşük kaynak tükettiği için sürekli aktif kalabiliyor.
Sistem konuşma algıladığında ise ikinci neural network (sinir ağı) devreye giriyor. Bu model, söylenen ifadeyi analiz ederek içinde belirlenen wake word (uyandırma komutu) veya aktivasyon ifadesi olup olmadığını kontrol ediyor.
Bilgi: İki aşamalı yapı sayesinde ana model sürekli çalışmak zorunda kalmıyor. Bu da işlemci yükünü azaltırken cihazın pil ömrüne olumlu katkı sağlıyor.
Neural network modeli yaklaşık 10 kat küçültüldü
Yandex ekibinin en önemli hedeflerinden biri, sesli komut bekleme sürecinde kullanılan modeli mümkün olduğunca küçültmekti. Çünkü sürekli çalışan voice recognition (ses tanıma) sistemleri, giyilebilir cihazlarda enerji tüketiminin önemli kaynaklarından biri olabiliyor.
Şirket, daha kompakt bir mimari kullanarak neural network (sinir ağı) modelindeki parametre sayısını yaklaşık 10 kat azalttı. Buna rağmen modelin, daha büyük çözümlerle karşılaştırılabilir seviyede bir komut algılama kalitesi sunabildiği belirtiliyor.
Bu yaklaşım, sesli komutların doğrudan cihaz üzerinde işlenmesini mümkün hale getiriyor. Böylece ses verilerinin sürekli olarak cloud (bulut) sistemlerine gönderilmesine gerek kalmıyor.
Uyarı: Yerel işleme, gizlilik ve gecikme açısından avantaj sunsa da gerçek performans; cihazın işlemcisine, mikrofon kalitesine, yazılım optimizasyonuna ve kullanım senaryosuna göre değişebilir.
Bulutsuz çalışma gizlilik ve hız açısından avantaj sağlıyor
Modelin lokal olarak çalışması, kullanıcı deneyimi açısından birkaç önemli avantaj getiriyor. Öncelikle komutların işlenmesi için internet bağlantısına veya uzak sunucuya sürekli ihtiyaç duyulmuyor.
Bu durum, latency (gecikme) süresini azaltarak cihazın komutlara daha hızlı yanıt vermesini sağlayabilir. Ayrıca ses verilerinin cihaz dışına daha az taşınması, privacy (gizlilik) açısından da önemli bir kazanım olarak değerlendirilebilir.
Özellikle kulaklık ve saat gibi sürekli kullanıcıya yakın çalışan cihazlarda, sesli komutların mümkün olduğunca cihaz içinde işlenmesi giderek daha önemli bir teknoloji trendi haline geliyor.
NPU desteğiyle daha verimli AI işlemleri hedefleniyor
Yandex’in geliştirdiği teknoloji, modern çiplerde yer alan NPU (Neural Processing Unit / Sinir İşleme Birimi) desteğinden de faydalanacak şekilde tasarlandı.
NPU birimleri, yapay zeka görevlerini klasik CPU (Merkezi İşlem Birimi) birimlerine göre daha verimli şekilde çalıştırmak için geliştirilen özel donanım bloklarıdır. Bu sayede küçük neural network (sinir ağı) modelleri, daha düşük enerji tüketimiyle gerçek zamanlı olarak çalıştırılabilir.
Dmitry Solodukha’ya göre bu teknoloji, yalnızca akıllı saatler veya kablosuz kulaklıklarla sınırlı kalmayabilir. Gerçek zamanlı konuşma işleme özelliği gerektiren farklı kompakt AI gadget (yapay zeka cihazı) türlerinde de kullanılabilir.
Sonuç: Daha küçük, daha hızlı ve daha gizlilik odaklı sesli kontrol
Yandex’in yaklaşık 200 KB boyutundaki ultra kompakt neural network (sinir ağı) modeli, giyilebilir cihazlarda sesli kontrol deneyimini daha verimli hale getirme potansiyeli taşıyor.
Modelin cihaz üzerinde çalışması; daha düşük enerji tüketimi, daha kısa yanıt süresi ve daha güçlü gizlilik gibi avantajlar sunabilir. Özellikle yeni nesil akıllı saatler, kulaklıklar ve kompakt AI cihazları için bu tür düşük kaynak tüketimli modellerin önemi önümüzdeki dönemde daha da artabilir.
