Elon Musk ve sektörün önde gelen bir grup yapay zeka uzmanı, yayınladıkları açık mektupta topluma ve insanlığa yönelik potansiyel risklere atıfta bulundu. Musk'ın önderliğindeki ekip, OpenAI tarafından daha yeni piyasaya sürülen GPT-4 yapay zeka modelinden daha güçlü sistemlerin geliştirilmesine ara verilmesi gerektiğini belirtti. \"Kontrolden çıkmış bir yarış\" Kar amacı gütmeyen Future of Life Enstitüsü tarafından yayınlanan ve Musk da dahil olmak üzere 1000'den fazla kişi tarafından imzalanan mektupta, bu tür tasarımlar için ortak güvenlik protokolleri bağımsız uzmanlar tarafından geliştirilene, uygulanana ve denetlenene kadar gelişmiş yapay zeka çalışmalarına ara verme çağrısında bulunuldu. Ayrıca Bkz. Yapay zeka İstanbul depremini çizdi: Gerçekçi ve korkunç görünüyor! Mektupta, \"Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir" vurgusu yapıldı. Yapay zeka laboratuvarlarının şu anda \"hiç kimsenin - hatta yaratıcılarının bile - anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği\" makine öğrenme sistemlerini geliştirmek ve dağıtmak için \"kontrolden çıkmış bir yarışa\" kilitlendiği belirtiliyor. \"En az 6 ay ara verilmeli\" Bu nedenle GPT-4'ten daha güçlü sistemlerin eğitimlerine en az 6 ay ara verilmesi gerektiğinin altı çiziliyor. Bu duraklama sürecinin başlamaması halinde ise hükümetlerin devreye girmesi gerektiği belirtiliyor. İmzacılar arasında Apple kurucu ortağı Steve Wozniak, Skype kurucu ortağı Jaan Tallinn gibi CEO'lar, politikacılar, Yoshua Bengio ve Stuart Russell gibi tanınmış yapay zeka araştırmacıları bulunuyor. Mektupta ayrıca Google ve Microsoft gibi teknoloji şirketlerinin yeni ürünleri devreye sokmak için acele ettiği, güvenlik ve etik kavramlarını arka planda tuttuğu da aktarılıyor. Bu arada Future of Life sözcüsü Reuters'e OpenAI CEO'su Sam Altman'ın mektubu imzalamadığını söyledi. Öte yandan OpenAI 'ın güvenlik standartlarını karşıladıklarından emin olmak için gelecekteki yapay zeka sistemlerinin \"bağımsız olarak incelenmesi\" gerektiğini belirtmişti. Özet olarak, yapay zekanın ortaya koyacağı sonuçları anlayana kadar araştırmaların yavaşlaması gerektiği vurgulanıyor. Kaynak: https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-researchers-pause-research-open-letter Kaynak: https://futureoflife.org/open-letter/pause-giant-ai-experiments/