OpenAI, ChatGPT 'yi piyasaya sürdüğünden bu yana aslında pek çok şey değişti. Yapay zekanın etkisi en küçük yerlerde bile hissedilmeye başlanmışken hükümetler ise gerekli yasal düzenlemeler üzerinde çalışıyor. Bunun yanında OpenAI, "süper zeki" yapay zekanın risklerini yönetmek için özel bir ekip oluşturuyor. Süper zeki yapay zeka insanlığın sonu olabilir Süper zeka, en yetenekli ve zeki insandan bile daha akıllı olan ve önceki nesil bazı modeller gibi tek bir alan yerine birden fazla uzmanlık alanında başarılı olan varsayımsal bir yapay zeka modeli anlamına geliyor. OpenAI, böyle bir modelin on yılın sonundan önce ortaya çıkabileceğine inanıyor. Firmaya göre süper zeka, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının çoğunu çözmemize yardımcı olacak. Öte yandan riskler de yok değil: \"Ancak süper zekanın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta insan neslinin tükenmesine yol açabilir. \" Ayrıca Bkz. Google, paylaştığınız her şeyi yapay zeka eğitiminde kullanacak Yeni ekip OpenAI Baş Bilim İnsanı Ilya Sutskever ve araştırma laboratuarının uyum başkanı Jan Leike tarafından yönetilecek. Buna ek olarak OpenAI, halihazırda elinde tuttuğu işlem gücünün yüzde 20'sini bu girişime ayıracağını söyledi. Firma aynı zamanda bazı testlere de başlamış vaziyette. Yapılan açıklamada \"Ön deneylerde umut vaat eden pek çok fikir var, ilerleme için giderek daha kullanışlı ölçütlere sahibiz ve bu sorunların çoğunu deneysel olarak incelemek için bugünün modellerini kullanabiliriz.\" denildi. Her ne kadar OpenAI, gelecekteki çok zeki yapay zekalara önlem almak için istekli olsa da halihazırda mevcutta bulunan modellerin risklerinin ve sorunlarının de giderilmesi gerekiyor. Bu problemlerin en başında telif hakkı politikası ve halüsinasyonlar yer alıyor. Son olarak firmanın gelecekte yeni laboratuvarı hakkında bir yol haritası yayınlayacağını da sözlerimize ekleyelim. Kaynak: https://www.engadget.com/openai-is-forming-a-team-to-rein-in-superintelligent-ai-214333388.html Kaynak: https://openai.com/blog/introducing-superalignment