# Yapay zekânın kontrolü devralması
 - YÖNLENDİRME 
Yapay zekanın kontrolü devralması, bilgisayar programlarının veya robotların gezegenin kontrolünü etkili bir şekilde insan türünün elinden alması sonucunda yapay zekanın (AI) Dünya'nın baskın zeka biçimi haline geldiği varsayımsal bir senaryodur. Olası senaryolar arasında tüm insan iş gücünün değiştirilerek tam otomasyon sağlanması, süper akıllı bir yapay zekanın kontrolü devralması ve popüler bir robot isyanı fikri yer almaktadır. Yapay zekanın ele geçirilmesiyle ilgili bilimkurgu hikâyeleri popülerliğini korumaktadır, aynı zamanda son gelişmeler de bu tehdidi daha gerçekçi hale getirmiştir. Stephen Hawking ve Elon Musk gibi bazı ünlü kişiler, gelecekte süper zeki cihazların insan denetimi altında kalmalarını temin etmek için tedbir araştırmaları yürütülmesini savunmaktadır.


## Türler.
### Ekonominin tam otomasyonu.
İktisatçılar dünyadaki teknolojik ilerlemenin uzun vadeli işsizliğe yol açmayacağı konusunda geleneksel bir görüş birliği içerisindedir. Bununla birlikte, robotik ve yapay zeka alanlarındaki son yenilikler, insan emeğinin geçersiz hale geleceği ve çeşitli sektörlerdeki insanların hayatlarını kazanmak için iş bulamayacağı ve dolayısıyla ekonomik bir krizin ortaya çıkacağı yönündeki endişeleri artırmaktadır. Birçok küçük ve orta ölçekli işletme, en son robotik ve yapay zeka teknolojisini satın alamaz veya lisanslayamazlarsa iflas edebilir ve bu teknoloji karşısında varlıklarını sürdürebilmeleri için kolayca ikame edilemeyecek alanlara veya hizmetlere yoğunlaşmaları gerekebilir.


#### İşçileri yerinden edebilecek teknolojiler.
Yapay zeka teknolojileri geçtiğimiz yıllarda yaygın bir şekilde kullanılmaya başlandı. Bu teknolojiler birçok geleneksel çalışanın yerini alırken, aynı zamanda yeni olanaklar da yaratıyor. Yapay zekanın ele geçirmesine en yatkın sektörler arasında ulaşım, perakende ve ordu yer almaktadır. Örneğin yapay zeka askeri teknolojileri, askerlerin herhangi bir yaralanma riski olmadan uzaktan çalışmalarına olanak sağlamaktadır. Yazar Dave Bond, yapay zeka teknolojileri gelişmeye ve genişlemeye devam ettikçe, insanlar ve robotlar arasındaki ilişkinin de dönüşeceğini ve robotların hayatın çeşitli alanlarına yakından dahil olacağını ileri sürmektedir. Yapay zeka muhtemelen bazı çalışanların yerini alırken diğer sektörlerde, özellikle de görevlerin tekrar edilebilir olduğu alanlarda yeni işler için fırsatlar yaratacaktır.


#### Bilgisayarla entegre üretim.
Bilgisayarla entegre üretim, bilgisayarları üretim sürecini kontrol etmek için kullanmaktadır. Bu, münferit süreçlerin birbirleriyle bilgi alışverişinde bulunmalarına ve eylemleri başlatmalarına olanak sağlar. Bilgisayarların entegrasyonu sayesinde üretim daha hızlı ve daha az hataya açık hale gelse de, asıl önemli fayda otomasyona dayalı üretim süreçlerinin yaratılabilmesidir. Bilgisayar entegreli üretim otomotiv, havacılık, uzay ve gemi inşa endüstrilerinde kullanılmaktadır.


#### Beyaz yakalı makineler.
21. yüzyılda çeviri, hukuki araştırma ve düşük seviyeli gazetecilik de dahil olmak üzere birçok vasıflı görev kısmen makineler tarafından devralınmıştır. Daha önce otomasyondan uzak olduğu düşünülen bakım işleri, eğlence ve empati isteyen diğer görevler de artık robotlar tarafından yerine getirilmeye başlanmıştır.


#### Otonom arabalar.
Otonom araba, çevresini algılayabilen ve insan müdahalesi olmadan hareket edebilen bir araçtır. Bu tür birçok araç geliştirilmekte, ama Mayıs 2017 itibarıyla kamuya açık yollarda kullanılmasına izin verilen otonom araçlar henüz tam otonom değil. Hepsinin direksiyonunda, bir anda aracın hakimiyetini ele alabilecek bir insan sürücünün olması gerekmektedir. Otonom araçların yaygın olarak benimsenmesinin önündeki engellerden biri de karayolu taşımacılığı sektöründeki şoförlükle ilgili işlerin kaybına ilişkin duyulan endişelerdir. 18 Mart 2018'de, Tempe, Arizona'da Uber'in sürücüsüz aracının çarptığı bir insan, otonom bir araç tarafından öldürülmüştür.


#### Yapay zeka ile oluşturulan içerik.
Yapay zeka modellerindeki ChatGPT, DALL-E ve Stable Diffusion gibi teknolojik gelişmelerden bu yana yapay zeka içeriklerinin kullanımı önem kazanmıştır. Çoğu durumda, görüntü, edebiyat ve müzik gibi yapay zeka tarafından üretilen içerikler metin komutları yoluyla üretilmekte ve bu yapay zeka modelleri diğer yaratıcı programlara entegre edilmektedir. Sanatçılar, bu modellerin diğer yaratıcı çalışmalardan örnek alması ve bazen insan yapımı içeriklerden ayırt edilemeyecek sonuçlar üretmesi nedeniyle yapay zeka tarafından üretilen içeriğin yarattığı tehdit altındadır. Bu sorun, diğer sanatçıların ve programcıların bu metinden görüntüye modellerin doğru çıktılar vermesine karşı koymak için yazılımlar ve yardımcı programlar oluşturmalarına neden olacak kadar yaygınlaşmıştır. Ekonomideki bazı sektörler yapay zekâdan yeni iş olanakları yaratarak faydalanırken, bu sorun yeni iş olanakları yaratmamakta ve tamamen ortadan kalkma tehdidiyle karşı karşıya kalmaktadır. Yakın zamanda medyada manşetlere taşınan, Şubat 2024'te İskoçya'nın Glasgow kentinde düzenlenen Willy's Chocolate Experience adlı çocuk etkinliğinde görüntülerin ve metinlerin yapay zeka modelleri kullanılarak oluşturulması çocukların, ebeveynlerin ve oyuncuların dehşete düşmesine neden olmuştur. "The New York Times" tarafından OpenAI aleyhine açılan ve yapay zeka modellerinin çıktılarında kullandıkları örnekleme yöntemleri dolayısıyla telif hakkı ihlali olduğu ileri sürülen bir dava devam etmektedir.


### Ortadan kaldırma.
Stephen Hawking gibi bilim insanları insanüstü yapay zekanın fiziksel açıdan mümkün olduğundan emindir ve "parçacıkların insan beynindeki parçacık düzeninden bile daha gelişmiş hesaplamalar yapabilecek şekilde düzenlenmesini önleyecek hiçbir fiziksel yasa yoktur" şeklinde ifade etmektedir. Nick Bostrom gibi bilim adamları insanüstü zekanın ne kadar uzakta olduğunu ve insanlık için bir risk oluşturup oluşturmadığını konusunu tartışıyorlar. Bostrom'a göre, süper zeki bir makine, genellikle insanları harekete geçiren güç elde etmeye yönelik aynı duygusal arzuyla motive olmak zorunda olmayacak, bunun yerine gücü nihai hedeflerine ulaşmak için bir vasıta olarak ele alabilecektir; dünyayı ele geçirmek hem kaynaklara erişimini artıracak hem de diğer aracıların makinenin planlarını durdurmasını önlemeye yardımcı olacaktır. Aşırı basitleştirilmiş bir örnek olarak, yalnızca mümkün olduğunca çok sayıda ataç yaratmak üzere tasarlanmış bir ataç maksimize edicisi, dünyanın tüm kaynaklarını mümkün olduğunca çok ataç yaratmak için kullanmak ve ayrıca insanların onu kapatmasını ya da bu kaynakları ataç dışında başka şeyler için kullanmasını engellemek amacıyla dünyayı ele geçirmek isteyecektir.


## Kurguda.
Yapay zekanın kontrolü devralması bilimkurguda yaygın kullanılan bir temadır. Araştırmacıların, hedeflerine ulaşmanın bir yan ürünü olarak insanları hızla yok eden bir yapay zeka endişesinin aksine, kurgusal senaryolar genellikle insanlarla kendilerini tehdit olarak gören veya insanlarla savaşmak için aktif bir istek duyan antropomorfik güdülere sahip bir yapay zeka veya robotlar arasında aktif bir çatışmayı içerdikleri için araştırmacılar tarafından varsayılan senaryolardan büyük ölçüde farklılık göstermektedir. Bu fikir, 1921'de "robot" kelimesini ortaya atan Karel Čapek'in "RUR'unda" görülür ve Mary Shelley'nin "Frankenstein'ında" (1818'de yayınlandı) da görülebilir; Victor, canavarının isteğini kabul edip edemeyeceğini düşünürken ona eş yaptıktan sonra ürer ve insanlığı yok ederler.
Toby Ord'a göre, yapay zekanın yönetimi ele geçirmesi için robot gerekliliği fikri, medya ve Hollywood tarafından yönlendirilen bir yanlış anlamadır. Tarihte en çok zarar veren insanların fiziksel olarak en güçlüler olmadığını, bunun yerine insanları ikna etmek ve dünyanın büyük bölümünün kontrolünü ele geçirmek için kelimeleri kullandıklarını ileri sürmektedir. İnternete erişimi olan yeterince zeki bir yapay zekanın kendisinin yedek kopyalarını dağıtabileceğini, finansal ve insani kaynakları (siber saldırılar veya şantajlar yoluyla) bir araya getirebileceğini, insanları büyük ölçekte ikna edebileceğini ve insanların tahmin edemeyeceği kadar ince toplumsal açıklardan yararlanabileceğini yazmaktadır.
"RUR'dan" gelen "robot" kelimesi, işçi veya serf anlamına gelen Çekçe "robota" kelimesinden gelir. 1920 tarihli oyun, teknolojinin hızla gelişmesine karşı bir başkaldırıydı ve sonunda isyan eden, artan yeteneklere sahip, imal edilmiş "robotlar" içeriyordu. HAL 9000 (1968) ve orijinal Terminatör (1984), popüler kültürde düşman yapay zekanın iki ikonik örneğidir.


## Katkı sağlayan faktörler.
### İnsanüstü zekanın insanlara göre avantajları.
Nick Bostrom ve diğerleri, yetenekli bir yapay zeka araştırmacısının yeteneklerine sahip bir yapay zekanın kendi kaynak kodunu değiştirebileceğine ve kendi zekasını arttırabileceğine dair kaygılarını dile getirmişlerdir. Kendi kendini yeniden programlaması, kendini yeniden programlama konusunda daha da iyi hale gelmesine yol açacak olursa, bunun sonucu, insan zekasını hızla geride bırakacak yinelemeli bir zeka patlaması olabilecektir. Bostrom bir süper zekayı "neredeyse tüm ilgi alanlarındaki insanların bilişsel performansını büyük ölçüde aşan herhangi bir akıl" olarak tanımlıyor ve bir süper zekanın insanlarla rekabet etmeyi seçmesi durumunda sahip olacağı bazı avantajları sıralıyor:
  - Teknoloji araştırması: İnsanüstü bilimsel araştırma yeteneklerine sahip bir makine, nanoteknoloji veya ileri biyoteknoloji gibi kilometre taşlarında insan araştırma topluluğunu geride bırakabilir
  - Strateji Oluşturma : Bir süper zeka, insanı kolaylıkla alt edebilir
  - Sosyal manipülasyon: Bir süper zeka insan desteğini toplayabilir veya gizlice insanlar arasında bir savaşı kışkırtabilir 
  - Ekonomik üretkenlik: Yapay zekanın bir kopyası, donanımının maliyetinden daha fazla ekonomik zenginlik üretebildiği sürece, bireysel insanlar, Yapay Genel Zekanın kendisinin bir kopyasını kendi sistemlerinde çalıştırmasına gönüllü olarak izin verme teşvikine sahip olacaktır.
  - Bilgisayar korsanlığı: Bir süper zeka, internete bağlı bilgisayarlarda yeni açıklıklar bulabilir ve kendisinin kopyalarını bu sistemlere yayabilir veya planlarını finanse etmek için para çalabilir.


#### Yapay zeka avantajının kaynakları.
Bostrom'a göre, bir insan beynini taklit eden ya da insan beyninin algoritmaları kadar güçlü algoritmalar çalıştıran bir bilgisayar programı, et yerine silikondan yapılmış olması ya da yapay zekanın hızını artıran optimizasyon nedeniyle bir insandan çok daha hızlı düşünebilmesi halinde yine de "hız süper zekası" haline gelebilir. Biyolojik nöronlar yaklaşık 200 Hertz hızında çalışırken, modern bir mikroişlemci yaklaşık 2.000.000.000 Hertz hızında çalışır. İnsan aksonları aksiyon potansiyellerini yaklaşık 120 m/s hızla taşırken, bilgisayar sinyalleri ışık hızına yakın bir hızla hareket etmektedir.
Birbirleriyle iletişim ağı kuracak ve karmaşık düşünce ve anıları sorunsuz bir şekilde paylaşacak şekilde tasarlanmış, sürtüşme olmadan dev bir birleşik güç olarak çalışabilen veya trilyonlarca insan düzeyinde zekadan oluşan bir ağ, "kolektif bir süper zeka" haline gelecektir.
Daha geniş anlamda, insan düzeyindeki bir yapay zekada yapılacak herhangi bir sayıda niteliksel iyileştirme "kaliteli bir süper zeka" ile sonuçlanabilir ve belki de zeka açısından insanların insan olmayan maymunlardan daha üstün olduğu kadar üstün bir yapay zeka ile sonuçlanabilir. Bir insanın beynindeki nöron sayısı kafatası hacmi ve metabolik kısıtlamalarla sınırlıyken, bir süper bilgisayardaki işlemci sayısı süresiz olarak artırılabilir. Bir yapay zeka, insanların çalışma belleği üzerindeki kısıtlamaları ile sınırlı olmak zorunda değildir ve bu yüzden insanların yapabildiğinden daha karmaşık ilişkileri sezgisel olarak kavrayabilir. Mühendislik veya bilgisayar programlama için özel bilişsel desteğe sahip bir yapay zeka, bu alanlarla özellikle ilgilenmek için özel zihinsel modüller geliştirmeyen insanlara kıyasla bu alanlarda bir avantaja sahip olacaktır. İnsanların aksine, bir yapay zeka kendi kopyalarını oluşturabilir ve algoritmalarını daha da geliştirmeye çalışmak için kopyalarının kaynak kodlarıyla oynayabilir.


### Dost olmayan yapay zekanın dost canlısı yapay zekadan önce gelme olasılığı.
#### Güçlü yapay zeka doğası gereği tehlikeli midir?
Önemli sorunlardan biri, dostane olmayan yapay zekanın yaratılmasının dostane yapay zekadan çok daha kolay olmasıdır. Her ikisi de özyinelemeli optimizasyon süreci tasarımında büyük ilerlemeler gerektirse de, dostane yapay zeka aynı zamanda hedef yapılarını kendini geliştirme altında değişmez kılma becerisi ve insan değerleriyle uyumlu ve tüm insan ırkını otomatik olarak yok edebilecek şekilde aracı yakınsamaya uğramayan bir hedef yapısı gerektirmektedir. Öte yandan, dostane olmayan bir yapay zeka, kendi kendini geliştirme kapsamında değişmez olması gerekli olmayan keyfi bir hedef yapısı için iyileştirme yapabilmektedir.
İnsan değer sistemlerinin karmaşıklığı, yapay zekanın motivasyonlarının insan dostu hale gelmesini çok zor hale getirmektedir. Ahlak felsefesi bize kusursuz bir etik teorisi sunmadığı sürece, bir yapay zekanın fayda fonksiyonu, belirli bir etik çerçeveye uyan ancak "sağduyuya" uygun olmayan birçok potansiyel zararlı senaryoya izin verecektir. Eliezer Yudkowsky'ye göre, yapay olarak tasarlanan bir zihnin böyle bir uyarlamaya sahip olacağını varsaymak için çok az neden vardır.


#### Çatışma olasılığı.
Evrimsel psikolog Steven Pinker da dahil olmak üzere pek çok bilim adamı, süper zeki bir makinenin insanlarla barış içinde bir arada yaşamasının muhtemel olduğunu savunmaktadır.
Sibernetik isyan korkusu genellikle insanlığın köleleştirme ve soykırım olaylarıyla dolu tarihinin yorumlarına dayandırılmaktadır. Bu tür korkular, rekabetçilik ve saldırganlığın herhangi bir zeki varlığın hedef sistemi içinde gerekli olduğu inancından kaynaklanmaktadır. Oysa insanların rekabetçiliği, insan ve insan olmayan rakipler karşısında genlerin hayatta kalması ve üremesinin temel hedef olduğu zekamızın evrimsel arka planından kaynaklanmaktadır. YZ araştırmacısı Steve Omohundro'ya göre, keyfi bir zekanın keyfi hedefleri olabilir: yapay zekalı bir makinenin, yaratıcısı onu bu şekilde programlamadıkça ve programını değiştirmeye meyilli veya yetenekli olmadıkça, düşmanca veya dostça olması için özel bir sebep yoktur. Ancak soru şu: Eğer yapay zeka sistemleri etkileşime girebilir ve evrimleşebilirse (bu bağlamda evrim, kendini değiştirme veya seçilim ve üreme anlamına gelir) ve kaynaklar üzerinde rekabet etmeleri gerekirse ne olacaktır ki bu da kendini koruma hedefleri yaratır mı? Yapay zekanın kendini koruma hedefi, insanların bazı hedefleriyle çelişebilir.
Pek çok bilim insanı, "Matrix" gibi bilimkurgu filmlerinde tasvir edildiği gibi beklenmedik bir sibernetik isyan ihtimaline karşı çıkmakta ve insanlığı tehdit edecek kadar güçlü herhangi bir yapay zekanın muhtemelen saldırmamak üzere programlanmış olmasının daha muhtemel olduğunu ileri sürmektedir. Pinker, kasıtlı "kötü niyetli aktörler" olasılığını kabul etmekte, fakat kötü niyetli aktörlerin yokluğunda, beklenmedik kazaların önemli bir tehdit oluşturmadığını ifade etmektedir; Pinker, mühendislik güvenlik kültürünün, yapay zeka araştırmacılarının kazara kötü niyetli süper zekayı serbest bırakmasını önleyeceğini savunmaktadır. Buna karşın Yudkowsky, insanlığın kasıtlı olarak saldırgan yapay zekalar tarafından tehlikeye atılma olasılığının, hedefleri kasıtsız olarak insanın hayatta kalması ile uyumsuz olacak şekilde programlanmış yapay zekalar tarafından tehdit edilme olasılığından daha düşük olduğunu savunmaktadır. Omohundro, günümüz otomasyon sistemlerinin güvenlik için tasarlanmadığını ve yapay zekaların dar fayda fonksiyonlarını körü körüne optimize edebileceklerini (örneğin, ne pahasına olursa olsun satranç oynamak), bunun da onları kendilerini korumaya ve onları kapatabilecek insanlar da dahil olmak üzere engelleri ortadan kaldırmaya yönelttiğini öne sürmektedir.


#### Önlemler.
Yapay zeka kontrolü sorunu, yaratıcılarına zarar verecek bir süper zekayı yanlışlıkla oluşturmaktan kaçınırken, yaratıcılarına yardım edecek bir süper akıllı ajanın nasıl oluşturulacağı meselesidir. Bazı akademisyenler, kontrol problemine yönelik çözümlerin mevcut süper zeki olmayan yapay zekada da uygulama alanı bulabileceğini savunmaktadır.
Kontrol sorununa yönelik başlıca yaklaşımlar arasında yapay zeka hedef sistemlerini insani değerlerle "uyumlu" hale getirmeyi amaçlayan "hizalama ve yapay zeka sisteminin insanlara zarar verme veya kontrolü ele geçirme kapasitesini azaltmayı amaçlayan yetenek kontrolü" yer alıyor. "Yetenek kontrolüne" bir örnek, bir süper zeka yapay zekasının başarılı bir şekilde bir " Yapay Zeka kutusu " içinde sınırlandırılıp sınırlandırılamayacağının araştırılmasıdır. Bostrom'a göre, bu tür kabiliyet kontrolü önerileri uzun vadede kontrol sorununu çözmek için güvenilir veya yeterli değildir, fakat potansiyel olarak hizalama çabaları için değerli tamamlayıcılar olarak işlev görebilir.


## Uyarılar.
Fizikçi Stephen Hawking, Microsoft'un kurucusu Bill Gates ve SpaceX'in kurucusu Elon Musk, yapay zekanın insanların onu kontrol edemeyeceği noktaya kadar gelişebileceği olasılığı hakkındaki endişelerini dile getirdiler; Hawking bunun "insan ırkının sonunu getirebileceğini" teorileştirdi. Stephen Hawking 2014 yılında şöyle demişti: "Yapay zeka yaratmadaki başarı insanlık tarihindeki en büyük olay olacaktır. Ne yazık ki, eğer risklerden nasıl kaçınacağımızı öğrenemezsek, bu aynı zamanda sonuncusu da olabilir." Hawking, önümüzdeki on yıllarda yapay zekanın "teknolojinin finansal piyasaları alt etmesi, insan araştırmacıları alt etmesi, insan liderleri alt etmesi ve anlayamadığımız silahlar geliştirmesi" gibi "hesaplanamaz faydalar ve riskler" sunabileceğine inanıyordu. Ocak 2015'te Nick Bostrom, Stephen Hawking, Max Tegmark, Elon Musk, Lord Martin Rees, Jaan Tallinn ve çok sayıda yapay zeka araştırmacısına katılarak Yaşamın Geleceği Enstitüsü'nün yapay zekayla ilgili potansiyel riskler ve faydalar hakkında konuşan açık mektubunu imzaladılar. İmzacılar, " yapay zeka sistemlerinin nasıl sağlam ve faydalı hale getirilebileceğine ilişkin araştırmaların hem önemli hem de zamanında yapılmasının önemine ve bugün takip edilebilecek somut araştırma yönleri olduğuna inanmaktadırlar." 
Arthur C. Clarke'ın Odyssey serisi ve Charles Stross'un Accelerando'su, insanlığın öz algısını tehdit eden güçlü yapay zekalar karşısında insanlığın narsisistik olarak yaralanmalarını konu almaktadır.