Bir süredir yapay zeka hakkındaki haberlimiz ile gündemin nabzını tuttuk ve şimdi, çok kısa bir süre önce yeni bir gelişmeye daha tanıklık ettik. Qualcomm, düzenlediği Snapdragon Summit etkinliğinde Snapdragon 8 Gen 3 ve Snapdragon X Elite platformlarını yapay zeka konusunda üstün iddialar ile birlikte tanıttı. Paylaşılan detaylar 2024'ün yapay zeka için yeni bir dünya tasvirine neden oluyor. 2024'te yapay zekanın yükselişi Halihazırda kullandığımız neredeyse tüm üretken yapay zeka modelleri aslında tamamen bulutta çalışan sistemler. Yani doğrudan kullandığımız bir cihazın içinde çalışan üretken yapay zekaya sahip değiliz. Öte yandan Qualcomm, yapay zeka ve makine öğrenimi sistemlerini cihaz üzerinde ve internet bağlantısı olmadan çalıştırma konusuna uzak değil. Firma zaten yıllardır bunu kamera yongaları ile yapıyor. Ancak bunu kamerada yapmakla tam bir araç üzerinde yapmak arasında fark var. Ayrıca Bkz. Galaxy S24 serisinin cepte taşınan yapay zeka makinesi olacağı söyleniyor Firma, Snapdragon 8 Gen 3 ve X Elite yongalarının bir parçası olarak cihaz üzerinde yapay zekanın nihayet mobil cihazlara ve Windows 11 PC'lere geldiğini duyurdu. Her iki yonga seti de sıfırdan üretken yapay zeka yetenekleri düşünülerek tasarlandı. Qualcomm'un paylaştığı bilgilere göre SD8 gen 3, 10 milyar parametreye ve X Elite ise 13 milyar parametreye kadar çeşitli büyük dil modellerini , dil görme modellerini ve dönüştürücü ağ tabanlı otomatik konuşma tanıma modellerini tamamen cihaz üzerinde destekleyebiliyor. Devasa AI modelleri cihaz üzerinde çalışacak Peki bu milyarlarca parametre ne anlama geliyor? Basitçe, bu kapasite telefonlarda Baidu'nun ERNIE 3.5 'inden OpenAI'ın Whisper 'ına, Meta'nın Llama 2 'sinden Google'ın Gecko 'suna kadar her şeyi internet bağlantısı olmadan telefonunuzda veya dizüstü bilgisayarınızda çalıştırabileceğiniz anlamına geliyor. Qualcomm, tüm modelleri aynı anda çalıştırabilmek için heterojen bilgi işleme oldukça önem veriyor. Herhangi bir zamanda birden fazla model çalıştığı için eşzamanlı olarak kullanılan CPU, GPU ve NPU bu anlamda öne çıkıyor. Bu anlamda Qualcomm AI Engine, Oryon CPU, Adreno GPU ve Hexagon NPU 'dan oluşuyor. Bunlar bir araya geldiğinde 45 TOPS 'a kadar işlem yapabiliyor ve dizüstü bilgisayarlarda saniyede 30 token, mobil cihazlarda ise saniyede 20 token işlem yapabiliyor. Token, LLM'lerin işleyebileceği/üretebileceği temel metin/veri birimidir. Cihaz üzerin yapay zeka ile neler yapılacak? Donanım seviyesinde yapay zeka modellerini cihaz üzerinde çalıştırmak artık mümkün. Ancak bu, son kullanıcıya ne gibi bir fayda sağlayacak? Potansiyel kullanımlalanları arasında kurumsal uygulamalar için istem tabanlı bilgisayar kodu, müzik oluşturma, toplantı ve belge özetleme, e-posta hazırlama gibi şeylere bakıyoruz. Veya sadece çok daha güzel fotoğraflar için de kullanılabilir. Çekilen bir fotoğraf/video bütünüyle farklı bir arka plan ile kusursuz bir şekilde birleştirilebilir. Bulut yerine öncelikle telefonunuzda veya mobil cihazınızda yaşayan bir yapay zekaya sahip olmak, kullanıcılara mevcut sisteme göre sayısız avantaj sağlayacak. Qualcomm Teknoloji Planlama ve Uç Çözümler Kıdemli Başkan Yardımcısı ve Genel Müdürü Durga Malladi, genel bir modeli (örneğin GPT-4) alan ancak daha doğru ve konuya uygun yanıtlar vermek için şirketin dahili verilerini kullanarak bu modeli ayarlayan kurumsal yapay zekalar gibi, yerel olarak depolanan bir yapay zeka da \"zamanla... yavaş yavaş kişiselleşir\" diyor. Yani bu "asistan" cihaz üzerinde çalışarak daha akıllı ve daha iyi hale gelecek. Dahası, modelin işleme veya bilgi için bulutu sorgulaması gerektiğinde ortaya çıkan doğal gecikme de ortadan kalkacak. Bu nedenle, hem X Elite hem de SD8 gen 3, Stable Diffusion 'ı cihaz üzerinde çalıştırmakla kalmıyor, aynı zamanda 0,6 saniyeden daha kısa sürede görüntü üretebiliyor. Bu, mukayese edilemez bir hız. Tüm bunları neden cihaz üzerinde çalıştıralım? Qualcomm kişiselleştirme, gizlilik, güvenlik, enerji tasarrufu, anındalık ve maliyet gibi faydaları öne sürüyor. Öte yandan yazmak yerine modellere konuşarak etkileşim kurma kapasitesi tüketiciler için en büyük avantaj olabilir. "Cihazlarla arayüz oluşturmaya başladığımız çok benzersiz bir yol var ve ses, diğer her şeyin yanı sıra bu cihazlara yönelik çok daha doğal bir arayüz haline geliyor. Bunun, cihazlarla daha önce yaptığımızdan çok farklı bir şekilde etkileşime girmeye başladığımız yenilikçi bir an olma potansiyeline sahip olduğuna inanıyoruz." diyor Malladi. Ancak Qualcomm'un burada durması elbette beklenmemeli. Sadece Qualcomm da değil. MediaTek, Apple, Intel, AMD, Nvidia ve hatta kendi yapay zeka çiplerini geliştirmek isteyen Microsoft, OpenAI ve Amazon gibi devler bu alana odaklanmış durumda. Mesela Microsoft bu alanın öncülerinde. Qualcomm'un etkinliğine katılan Microsoft CEO'su Satya Nadella, Copilot'un Windows'un geleceği için anahtar olacağını söylüyor. \"Windows ilk kez bir araya geldiğinde Başlat düğmesi vardı, Copilot da Başlat düğmesi gibi. \" Otomobiller de işin içinde En nihayetinde sürücüsüz araçları konuşuyoruz ve bu araçlar yolculuk esnasında sadece bir saniyede bile yüzbinlerce veri topluyor ve bunların araç içinde işlenebilmesi için Qualcomm, şimdiden 30 ila 60 milyar parametreden bahsediyor. Qualcomm'un tahminlerine göre, nihayetinde bu cihaz üstü modeller 100 milyar veya daha fazla parametreye yaklaşabilir. 2024 yılında hem donanım tarafında hem de yapay zeka tarafında çok daha büyük gelişmeler göreceğiz. Genel yapay zeka modellerinin yerlerine kişisel yapay zeka modellerinin emarelerini göreceğiz. Tüm bunlar ise bana \"Her\" filmini anımsatıyor. Kaynak: https://www.pcmag.com/news/qualcomm-seeks-to-put-ai-in-all-the-things-including-your-next-phone-and Kaynak: https://www.engadget.com/qualcomm-brings-on-device-ai-to-mobile-and-pc-190030938.html