ChatGPT 'nin yaratıcısı OpenAI, yapay zekanın güvenliği ve ürünlerini nasıl güvenli tutmaya çalıştığı hakkında kamuoyuna açıklamalarda bulundu. Hatırlanacağı üzere ChatGPT'yi kullananların bir kısmının hassas bilgileri çok basit bir hata sonucunda sızmıştı. ChatGPT, bu olay sonrasında İtalya'da yasaklanmış ve Avrupa'nın bazı ülkelerinde incelemeye alınmıştı. Geçen hafta İtalya, gizlilik endişelerini gerekçe göstererek ChatGPT kullanımını yasaklayan ilk batılı ülke olmuştu. OpenAI, mevcut yasalara uyduğundan emin olduğunu iddia etse de İtalya'nın hamlesi, diğer ülkelerin de davayı takip etme ve yapay zekanın güvenliği sağlanana kadar kullanımını kısıtlama olasılığını artırdı. Şirketin web sitesindeki blog gönderisi, son birkaç ayda önemli ilerlemeler kaydeden yapay zeka modelleri hakkındaki korkuları yatıştırabilir. E ndişeleri gideririr mi? Pek değil. \"GPT-4 piyasaya sürülmeden 6 ay test edildi\" Gönderide Open AI, herhangi bir yeni sistemi halka tanıtılmadan önce harici uzmanlar kullanarak titizlikle test ettiğini ve iyileştirmeler yapmak için insan geri bildirimi ile pekiştirici öğrenmeyi kullandığını belirtiyor. Şirket, son modeli GPT-4 'ü piyasaya sürmeden önce altı ay boyunca test ettiğini iddia ediyor ve düzenleme çağrısı yapıyor: "Güçlü yapay zeka sistemlerinin titiz güvenlik değerlendirmelerine tabi tutulması gerektiğine inanıyoruz. Bu tür uygulamaların benimsenmesini sağlamak için düzenlemeye ihtiyaç vardır ve bu tür bir düzenlemenin alabileceği en iyi biçim konusunda hükümetlerle aktif olarak çalışıyoruz." Ayrıca Bkz. ChatGPT ile virüs programlarının tespit edemediği virüs geliştirildi OpenAI, titizlikle yürüttüklerini belirttiği kapsamlı araştırma ve testlere rağmen laboratuvarda öğrenebileceklerinin sınırlı olduğunu, bu nedenle tüm yararlı veya kötüye kullanım yollarını tahmin edemediklerini belirtiyor. Şirket bu yüzden halka açık testlerin bu tür sistemlerin gelişimi açısından bir zorunluluk olduğunu aktarıyor. OpenAI, hizmetlerinin kötüye kullanımını izleyebileceğini ve gerçek dünya verilerine dayanarak anında harekete geçebileceğini söylüyor. Kötüye kullanım devam edecek Yukarıdaki açıklamalardan da anlaşılacağı üzere OpenAI, ChatGPT gibi teknolojilerinden kaynaklanan gerçek risklere karşı incelikli politikalar geliştirirken aynı zamanda insanların bunları faydalı veya zararlı amaçlar için kullanmasına da teoride izin veriyor. ChatGPT'ye yaş doğrulama geliyor Şirket ayrıca 18 yaşından büyük veya 13 yaşından büyük, ebeveyn onayı olan kullanıcıların hizmetlerine erişmesini sağlamak için doğrulama seçeneklerini değerlendirdiğini söyledi. İtalya'nın yasak kararında bir doğrulama seçeneğinin olmayışına da vurgu yapılıyordu. Open AI, yeni modeli GPT-4'ün nefret dolu, taciz ve şiddet içeren içerik taleplerine yanıt verme olasılığının yüzde 82 daha az olduğunu söylüyor. Blog yazısında GPT-4'ün gerçeğe dayalı içerik üretme olasılığının GPT-3.5'e göre yüzde 40 daha fazla olduğu da vurgulanıyor. Ancak OpenAI, çıktıların her zaman doğru olmayabileceği konusunda olabildiğince şeffaf olmaya çalıştıklarını da söylüyor. OpenAI'ın bu açıklamasının açıkçası endişeleri ortadan kaldırmadığını da belirtmek gerekiyor. Yayınlanan blog gönderisinde kullanıcıların sohbet verilerinin bir eğitim verisi olarak kullanılabileceği açıkça belirtiliyor. Evet, bu verilerin reklam veya gelir amaçlı olarak kullanılmayacağı belirtiliyor ancak soru işaretleri giderilmiş değil. Siz bu konuda ne düşünüyorsunuz? OpenAI'ın almış olduğu önlemler yeterli mi? Kaynak: https://openai.com/blog/our-approach-to-ai-safety