Yapay zeka yapay zekayı kodlayabilecek kadar gelişirse neden olmasın?

Kendi kendini kodlayabilecekse evet bizleri ele geçirebilirler.

Şu anda Çin, Japonya ve gelişmiş Asya ülkeleri robotlar yapıyor. Robot dediğim bizim gibi yani eli kolu olan tepki verebilen konuşabilen... Bu robotlarla ne yapmayı planlıyorlar sizce? 3. Dünya Savaşının olması yakın. Ülkeler bu ürettikleri robotları asker yerine koyacak. Bir ülkenin 1 Milyon tane askeri varsa bunlara her gün ; yemek, su , elektrik sağlamak zorunda kalacak. E bunların parası 3 trilyondan fazla eder. Bir ülke asker yetiştirmek yerine çağa ayak uydurup her gün sağlayacağı yemek, su vb. ihtiyaçlara vereceği paranın hepsini robot mühendisliğine yatırır. Üstelik kar eder. Şimdi gelişmiş bir ülkenin gözünden bakarsak. Ordusuna vereceği maaşı robot mühendisliğine yatırdı. 100 bin tane asker robot üretti. Bu robotların hafızası yok mu?Tabii ki var. Yani bu robotlar geliştirilirse sonumuz çok uzak değil diye düşünüyorum. Karar sizin...

Yapay zeka. Aslında garip ve ilgi çekici bir konu. İnsanların yaptığı zekanın insan ile yarisabilmesi için daha 50 fırın ekmek yememiz gerek. KAY/O'dan bahsediyorsan o ayrı.

Canını sıkarsa fişini çekersin olur-biter.

Belli bir sınırları içinde sınırlarsak bence sorun olmaz. Mesela senin dediğin gibi resim çizen yapay zeka, otonom sürüşler, hasta kişinin topogrofi mi neyse işte zatürre olup olmadığını anlayan yapay zeka felan olsa sıkıntı olmaz. Ama herşeye hakim olan yapay zeka yapılcaksa belki sıkıntı olabilir bilemeyiz hatta başka gezegenlerdeki medeniyetlere mesaj gönderirse şaşırmam.

Teknoloji, farklı çağlarda sürekli farklı şeylere odaklanmıştır. Piramit çağında inşaat, sanayi devriminde dumanlı makineler, 1940'lı zamanlarda petrolle çalışan makineler, elektrik teknolojileri ve çağımızdaki yazılım teknolojileri... Günümüzde yazılım mühendisi olmak, tıp okumakla eş değer hale geldi. Bir doktor olmak yazılım mühendisi olmak neredeyse aynı zorlukta. Günümüzde ise her şey yavaş yavaş yapay zekanın kontrolüne geçiyor. Otonom uçuş ve sürüş yapan araçlar, robotlar, hatta tasarımcı yapay zekalar. Şimdilik sadece hayatımızı kolaylaştırıyorlar. Peki ya, gelecekte? Sizin düşüncelerinizi de merak ediyorum.

Keşke tek dertleri elektrik olacak olsa.

En büyük risk Yapay Genel Zeka. Onun dışındaki yapay zekalar da elbette zarar verebilir. Problem aslında bir yapay zekayı ne kadar çok karmaşıklaştırırsak onu o kadar kontrol etme zorluğunun artmaya müsait olmasından kaynaklanıyor. Karmaşıklaştırma işinden vazgeçemeyiz aksi taktirde yapay zeka araştırmaları ilerleyemez ve daha güçlü/verimli yapay zekalar göremeyiz. Bu yüzden safe reinforcement learning gibi araştırma sahaları var. Sorun aslında yapay zekayı kontrol altına almaktan ziyade sabırsız araştırmacılar. Mesela ileride hızlıca para kazanmak için prototip bir yapay genel zekayı ürün olarak sunup insanlık için tehdit oluşturabilirler. Ki benim inancıma göre muhtemelen yaşanacakta. Detaylı bilgi: AI alignment - Wikipedia.

Bilgisayar mimarisi degismedigi surece hayir. Deterministik makinelerin cozemeyecegi problemlerler var.