İngiliz devletini siber saldırılara ve tehditlere karşı korumak amacıyla kurulan Devlet İletişim Merkezi'nin parçası olan Birleşik Krallık Ulusal Siber Güvenlik Merkezi yapay zeka konusunda insanları uyardı. Yapay zeka destekli chatbotların güvenlik riskleri, küresel olarak artan kullanımlarıyla birlikte endişe yaratıyor. İngiltere Ulusal Siber Güvenlik Merkezi, ChatGPT gibi chatbotların potansiyel risklerini vurgulayarak konuya dikkatleri çekmek istiyor. NCSC tarafından yayımlanan bir makalede, büyük dil modellerinin etkileyici olsalar da sihirli bir araç olmadıkları, yapay genel zeka seviyesine ulaşmamış oldukları ve ciddi kusurlar barındırdıkları belirtiliyor. İngiliz istihbaratı yapay zeka konusunda uyardı NCSC, ChatGPT ve GPT-4 gibi yapay zeka araçları ve dil modellerinin yanılabileceğini, yanlış bilgiler üretebileceğini, önyargılı olabileceğini ve toksik içerikler oluşturma eğiliminde olabileceğini vurguluyor. Hassas kullanıcı sorularının OpenAI gibi sağlayıcılar tarafından görünebileceği endişesi ise önemli bir sorun olarak görülüyor. Örneğin, açığa çıkabilecek sağlık sorunları gibi hassas konular, gelecekteki chatbot sürümlerinin eğitimi için kullanılabilir. Ayrıca, bir CEO'nun bir çalışanını nasıl kovacağı gibi hassas bilgilerin sorulabileceği bir senaryo da söz konusu. Dolayısıyla ChatGPT veya Bing gibi sohbet araçlarında yapılan tüm sorgular esasında bir veri olarak OpenAI'ın sunucularına gidiyor ve hangi bilgilerin verildiğine dikkat edilmesi gerektiği belirtiliyor. Bu endişeler nedeniyle Amazon ve JPMorgan gibi şirketler, özellikle hassas bilgilerin sızabileceği endişesiyle çalışanlarına ChatGPT kullanmamalarını istiyor. NCSC, ayrıca LLM'lerin siber suçlulara zararlı yazılımlar yazma becerisi kazandırabileceğini de aktarıyor. Bu durum, güvenlik araştırmacıları tarafından Ocak ayında keşfedilen ChatGPT'nin, hem \"eğitici\" bir araç hem de kötü amaçlı yazılım oluşturma platformu olarak kullanıldığı haberleriyle de desteklenmekte. Daha önceki haberlerimizde yeni GPT-4 'ün elle çizilen bir taslaktan çalışır bir web sitesi oluşturduğunu aktarmıştık. Bunun gibi yöntemler iyi amaçla da kullanılabilir kötü amaçla da. Ayrıca Bkz. ChatGPT'nin yeni kalbi GPT-4, yaptıklarıyla büyülüyor ve endişelendiriyor Siber suç faaliyetlerini artırabilirler Sonuç olarak İngiliz istihbarat teşkilatı, yapay zeka destekli chatbotların kullanımında, özellikle hassas bilgilerin açığa çıkmasına neden olabilecek soruları girdi olarak kullanırken dikkat edilmesi gerektiğine işaret ediyor. Ayrıca, yapay zeka destekli botların, siber suç faaliyetlerini daha da geliştirme olasılığına karşı da uyarılarda bulunuyor. Ek olarak veri güvenliği konusu da bir diğer tartışmalı konu. OpenAI her ne kadar kendisini kar amacı gütmeyen bir kuruluş olarak nitelese de ChatGPT Plus'ı ücretli olarak sunuyor. Ayrıca Microsoft, OpenAI'ı satın almasa da milyarlarca dolarlık yatırımı yaparak şirketin teknolojilerini kendi hizmetlerinde kullanıyor. Bu nedenle her gün yüz milyonlarca kişinin kullandığı ChatGPT'den elde edilen verilerin bağımsızlığı daha da önemli bir hale geliyor. Kaynak: https://www.techspot.com/news/97938-uk-intelligence-agency-warns-dangers-posed-ai-chatbots.html