Ateistler bunu da açıklasın

Bu yorum düzenlendi. Bunu zaten söylemişim.

Dijital bir yapıyı, fiziksel ve bazı şeylere ihtiyaç duyan bir yapıya getiremediğin sürece asla bir insan gibi duygusal bir varlık haline getiremezsin. Acıyı nasıl programlayabilirsin? Açlığı ya da susuzluğu nasıl programlayabilirsin? Bunları kendisi fiziksel olarak yaşayıp hissiyatının nasıl olduğunu bilmeyen bir dijital zeka hiçbirini anlamlandıramaz. Bunlara sahip olmayan bir üstün yapının vereceği kararlardan hiç memnun kalmama ihtimalimiz her zaman göz önünde bulundurulmak zorunda.

Peki soruyu değiştiriyorum bu kadar çok bilim kurgu filmini görmeseydedik bu konu bu kadar abartılır mıydı? Sonuçta yapay zeka matematiksel modellemelerden ibaret bir olay değil mi şu anlık?

Bu arada konuyla alakası yok ama bende adanalıyım neresinden?

Bence yapay zeka başlı başına bir bilim dalı ve bu bilim dalının da kendi alt dalları var. Çoğu yapay zeka sistemi hiçbir zaman insanlık için bir tehdit oluşturmayacak. Çünkü sadece belli başlı işleri gerçekleştirmesi için tasarlanmış yapılardır. Örneğin Google ́ın arama motorunda kullandığı ve daha alakalı sonuçları üretmesi için geliştirdiği yapay zeka algoritmaları gibi. Yapay zekanın çok küçük bir alanı insanlık için tehdit oluşturabilir. Örneğin Yapay Sinir Ağları gibi. YSA, biyolojik bir canlının beyin yapısını, sinir sistemini, nöronlarını, sinaptik bağlantılarını taklit etmeyi ve bu alanda yapay zeka programları üretebilmeli amaçlayan bir alt bilim dalıdır. İnsanlar gibi düşünebilen, duyguları olan, tepki verebilen bir bilgisayar programı geliştirilirse neler olacağını tahmin etmek çok güç olacaktır. En basitinden insanların neler yapabileceğini kestiremiyoruz. Josef Fritzl gibi komşuları tarafından "saygın" bir komşu, bir aile babası olarak görülen kişinin psikopat bir manyak olduğunun ortaya çıkması gibi. Daha önce hiç suç işlememiş Avustralyalı "Brenton Tarrant"ın bir anda 51 kişiyi öldürmesi gibi. İnsan gibi düşünebilen bir YSA programının neler yapabileceğini hayal etmek bile zor. Özellikle dijitalleşmenin bir sonucu olarak gelecekte her işin bilgisayarlara ve robotlara yaptırılacak olmasını düşünürsek.

Benle yaşıt olarak iş hayatın olmuş. Büyük başarı tebrikler.

@326001 Petaflops hatta gelecekte exaflops düzeyinde işlem gücüne sahip olacak bir zeka da bunu akıl edip önlem almaz ya da buna göre plan yapmaz zaten...

I robot? İnsan beynini farklı kılan şey ne bilinç kazanmış bir yapay zekadan? İnsan oğlu var oluşundan beri iyi miydi yoksa? Bunu Neandertallara sormaya ne dersin? Ya da soruyu değiştireyim İnsan oğlunun beyni bir öğrenme makinesıdır. Peki ya aynı orana sahip bir yapay zeka niye mantğına göre soykırım yapmamayı seçemiyor olsun ki?

@gençyazılımcı0er Gözden kaçırdığın bir şey var, Mars'ta henüz koloni kurulmadı ama yapay zekanın ilk özgür örneklerinin kendi dillerini oluşturmaya nasıl karar verebildiğini gördük. Daha gelişmiş bir versiyonun bunun daha da ötesine karar vermeyeceği konusunda da kesin bir şey söylenemez. Bu sistemler bizlerin aksine tüm veriyi birbirleriyle paylaşıp anında öğrenme kapasitesine de sahip. Durum buna döndüğü zaman dijital tabanlı bir üstün zekanın yapabileceği bir sanal saldırıya karşı fazla seçeneğimiz yok. Her şeyi kapatmak da onlarca yıl geriye gitmek demek, bu durumda geri gitmek için ileri bir yapay zeka geliştirmiş olma ironisini yaşarız.

Ben de bundan bahsediyorum, daha bu kadar ilkel bir durumda bile bizim irademizin dışında bir şeye karar verebilen bir dijital yapı daha da geliştiği zaman nelere karar vereceğini bilemeyiz. Bu arada felaket senaryocusu değilim, sadece önümüzde bir örnek varken bu kadar emin şekilde olmaz dememek gerekiyor diyorum. @326001 İroniyi anladım ama anlamayacaklar için bununla ilgili ciddi cevap verdim.

Aynen öyle bak bu "gerçek" bir hatadir. Bunu düzelttin. Ama diger konuşmalarda bir hata vs bulunmamakta.

Teziniz doğru, yapay zeka kendi öz iradesi ile, insanlığı yok etmek gibi bir eylemde bulunmayacak. Bu tamamen yapay zeka adı verilen programın kodlanması ile alakalı. Yapay zeka bizlerin var ettiği, karakterine kadar bizlerin şekillendirdiği bir program. Standart bir yapay zekanın belirtilenin dışında bir karar alması imkansız çünkü öz iradesi yok. Yapay zeka adı verilen bir algoritmadan, programdan ibaret hiçbir insandan üstün olmayan ilkel bir dijital varlıktır. Mevcut yöntemler sadece onu daha hızlı, daha fonksiyonel yapar. Yapay zeka insanlığı yok edebilir mi konusunun cevabı evet olsa da yapay zeka özgür iradesi ile insanlığı yok edebilir mi sorusunun cevabı zaten soruda mevcut, yapay zeka özgür irade sahibi değildir. Mevcut teknoloji ve bilim ile de imkansızdır.

Bu arada izin verirsen bir hatanı daha düzeltmek istiyorum. Teoriyi ortaya atan arkadaş "Big Crunch" diye atmıştır. Şu anki bulgulara göre gerçekleşmeyecektir. WMAP- Fate of the Universe Public access site for The Wilkinson Microwave Anisotropy Probe and associated information about cosmology. map. gsfc. nasa. gov

Kötü olacağını savunmuyorum, bizim değerlerimize sahip olamayacak algoritmik bir mantık sisteminin bize göre "kötü" olabileceğini göz önünde bulundurmak gerekiyor diyorum. Bu bir önyargı değil, bir olasılık hesabı.

Her ne olursa olsun makine öğrenimine bir sınır getirilip, baş kaldırı önlenebilir.

Gene kendin başka anlamlar cikartmissin. Teoriyi ortaya atan arkadaş "Big Collepse" diye atmış. Orjinalini yazmak daha mantıklı geldi. İngilizce biliyorum diye hava oluşturmak değil amacım. Benim orda o örneği verme amacım mübalağa yapmaktı. Yani uc bir örnek vererek olayı pekiştirmek. Ama gene kendine göre bir şeyler cikartmissin. Yazmak icin yazıyorsun dediğimde "yeni moda ingilizce oldu" yapma dostum.

Oyunlardan, filmlerden görüp, aşina olduğumuz bir konu. Yapay zekanın insanlık için ileride büyük bir tehdit oluşturacağını düşünmemiz için, hiçbir mantıklı açıklama yoktur. Çok yaygın bir oyun olan ''Detroit: Become Human'' oyununu baz alalım. Cyberlife adlı bir şirket, gelişmiş yapay zeka ile donattığı insansı robotları, her şey yolunda giderken, bir anda aralardan aykırıların çıkması üzerine kurulu bir konusu vardır. Bu robotlar durduk yere ''özgür irade'' -ki özgür irade diye bir şey yoktur. Biz yalnızca biyolojik makineleriz- sahibi olmazlar. Kodlamaların da çıkan bir hata sonucu ''aykırı'' olurlar. Fakat bu imkansızdır. Bir yapay zekanın irade kazanabilmesi için gereken kodlamayı bir düşünün. Bu durumda yapmamız gereken şey, kodların içine milyon tane kendi kendine yeni kod ekleyen yeni kodlar yazmaktır. Ve bu yüzlerce yıl alır. Tezime göre; Yapay zeka hiçbir zaman özgür irade sahibi olup, insanlığı yok edemeyecektir. Son düzenleyen: Moderatör: 23 Haziran 2019

"Yapay Zeka'nın insanlığı yok edişinden endişelenmek marstaki nüfus artışından endişelenmek gibidir biz daha bu gezegene iniş yapmadık."

Daha o geleceğe çok var ama sanıldığı kadar da çok değil. 100-200 yıl gibi süreler bu işler için çok uzun. Tehdit oluşturup oluşturmayacağını ya da bu zekaların bir şekilde kısıtlanabilip kısıtlanabilemeyeceğini zamanı gelince göreceğiz.

Ben bilgisayar mühendisi değilim ancak mühendislerle birebir sohbette bulundum gpt-3 ile yazı yazma şu şekilde diye biliyorum yapay zeka şiiri mükemmel bir accuracy ile kopyalıyor ancak niye kopyaladığını bilmiyor karar verme mekanizması ile refincorement learning deki award sistemine dayanmıyor mu?

Yapay zeka var da mı tehdit olacak? İçini boşalttılar ku kavramın, duyunca tiksindiğim bir kavramdır. Daha bir bilgisayar programını bile doğru düzgün patch siz çıkaramayan yazılım sektörü mü, dediğiniz zekayı yapacak? Zeka dediğiniz kendi kendine öğrenmedir, sezmedir. Burada yapay zeka boşaltılmış kavramıyla milyonlarca kez denettirip optimum veriyi çıkarmaktan bahsediliyor.

Terminatör'ü izleyen zannediyor ki makinalar bizi hemen öldürecek Ya bi' durun be arkadaş. Yaptık da korkması kaldı sanki Kontrollü geliştirilen her teknoloji, insanın hayatta kalması için bir şans dahadır. İnsan kendi başına hayatta kalamaz çünkü.

Şu an yapay zeka emin ol gerçek bir yapay zeka değil en son GPT3 ile biraz gelişme oldu.

O olay aslında öyle değil. Gizmodo

" Beyin fırtınası falan yani. Şu anda evren içine gocse big collepse teorisi gerçekleşecek olsa ondan da endişem yok." Demişsin bende bunun olmayacağını söyledim. Madem ben bildiğimi göstermek için yazıyorum sen niye bu konuya deyiniyorsun,"kıyamet" deyip geçmiyorsun, deyiniyorsan da niye "büyük çöküş" yerine ingilizcesini yazıyorsun pek anlamadım doğrusu? Yeni moda İngilizce yazmak herhalde?

Yapay zekanın insanlık için tehdit oluşturması yine başka bir insanın etkisiyle olacaktır.

Hayir korkmadilar. Basarisiz oldu. Cunku beklediklerinin disinda davrandi yapay zeka. Kendi arasinda gelistirdigi dil de "recursive" bir dil idi. Yani farkli kelimelerle dolu bizim zekamizin algilayamayacagi esrarengiz bir sey degil. Bildigin hata idi ve tam olarak ne oldugunu da biliyorlardi. Bunu da "yapay zeka kendi arasinda bizim anlamadigimiz dil gelistirdi" diye korkunc bir seymis gibi servis etti sacma haber gruplari.

Tabiki şuanda emekleme aşamasında diyebiliriz. Zamanla kalkacak, yürüyecek ve koşacak. Zaten bende yazdım 200 yıl sonrasını düşünelim diye.

Firmayı Facebook diye hatırlıyorum ve ayrıca şunu da sormak istiyorum; Kendi kendilerine yeni bir dil üretebilen yapay zeka yapmış olsalar bunu gerçekten iptal ederler miydi? İptal edildi diye söyleyip devam ediyorlardır.

Tek bir atomun bile kuantum fiziğinde değişime uğraması ya da bir anomaliye uğraması milyarlarca hatta trilyonlarca ihtimalden sadece 1 tanesinde olabilirken, oktilyonlarca atoma sahip bir insanın bu ihtimali yaşaması "fiziksel" olarak mümkün değil. Öncelikle bunun farkına varman gerekiyor, bazı şeyleri araştırdığın anlaşılıyor ama henüz yetkinlik sağlayacak bazı mantıksal hesapları yapmamışsın. Diğer tarafta ise çok daha gerçek bir konu var, çok ilkel bir yapay zeka bizim irademiz dışında kararlar verebiliyor. Algoritmik bir düşünce sistemine sahip üstün bir dijital zekanın verebileceği kararların orta gelecekte hiçbir sınırı kalmayacak. Çok değil sadece birkaç on yıl sonra sen bir yere giderken arabanı kullanmayacaksın, bir sistem üzerinde gideceğin yeri belirleyeceksin ve araba kendisi oraya gidecek. Şu anda bile uçaklarda ve toplu taşımada insan gücüne gerek yok, işin psikolojik sınırı aşılıp bunlardan operatörler devre dışı bırakılacak. Hiçbir insanın kontrolünde olmayan, bir sisteme bağlı yapay zekanın yönettiği bir taşıtta yolculuk edeceksin. Sahip olduğumuz bütün ekonomik yapı dijital, sahip olduğumuz ve üretebildiğimiz her şey dijital sistemler üzerinde. Kendi irademizin dışında, bizden de üstün ve arka planda birbirleriyle etkileşime geçecek bu zekaların yapabileceği şeylerin bir sınırı olmayacak. Bütün hayatımızı yapay zekanın inisiyatifine bırakacağımız geleceğe sadece birkaç on yıl kadar kaldı. Böyle bir "aciz" durumdayken, ilkel versiyonlarını bile kontrol edemediğimiz bir zekanın çok daha gelişmiş bir versiyonu bizim üzerimizde her şeye karar verebilecek konumda olacak. İşte bu ihtimalden dolayı yapay zekalar hakkında daha çok endişelenmeni tavsiye ederim, neredeyse sonsuz ihtimal kombinasyonunda bile olması mümkün olmayan oktilyonlarca atomunun anomaliye uğramasından değil. Yapay zekanın bizim işimize gelmeyecek kararlar verme ihtimali göz ardı edilebilecek bir konu değil.

Luna diğe bir yapay zeka sürekli kendi içinde kod yazıyor. Yani kendini geliştiriyor ve duruma göre farklı cevaplar verebiliyor. Yani bir nevi kendi iradesi var. Hatta bi aralar fabi şirket 2 yapay zeka robotunu yanlız bıraktıklarında iki yapay zekanın kendine has diller öğrendiğini söyleniyordu. Ne kadar doğru bilinmez fakat elon abimizin yeni projesi bizi koruma üzerine yani rahat olabiliriz

Biraz daha küçük mü düşünsek? Sanallaşmaya biraz var gibi sanki

Hazır hortlamışken; bence gayette tehtit oluşturabilir. Suanki GPT3 bile kendi icinde programlar yazıp insanlarla iletişime geçebiliyor, okuduğu kitaplar ve internet ile bilgisine bilgi katıp ogrenebiliyor. Bunu gelecekte 200 yıl sonra düşünün. Öyle bir işlem gücü olur ki kendisinin kaynak kodlarını değiştirir, aklimizin almayacağı şeyler yapar ve yapacağı islerin, kararların nasıl olacağını kimse bilemez. Kısaca bence ortada bir tehtit var.

Hocam uzun araştırmalarım sonucunda eğer yapay zeka ve insanlar arasında savaş çıkarsa yapılacak en iyi yöntemi bulduğumu düşünüyorum. Şehir'deki elektrikleri kapatmak. Bunu da ben söyleyeceksem yönetici olmam gerekiyor.

İnsan oğluda armut toplamayacak herhalde

Facebook olayı yalandan ibaret bildiğim kadarıyla amaçları kaos yaratıp iyi yada kötü reklam elde etmek diye düşünüyorum.

Konu hakkında yardımcı bir yazı, How close are we to the technology used in the movie Her? A look at existing technology and what's in store for the future. medium.com

Zihin ve irade konusunda tabiki insan daha üstün gelir ancak insanlar ve robotlar sonsuza kadar karşı karşıya oturup satranç oynamayacaklar ya Robotlar savaşmaya başvururlarsa insanlık için tehdit olabilirler. Bana göre yapay zeka konusunda da, ne kadar gelişirse gelişsinler her zaman bir yerden eksik kalacak ve bu eksiklik ancak bir insan tarafından giderilecektir.

Toplamayalim zaten. Bunun için bizde bir şeyler yaparız elbet. Ne bilim mesela beynimizi direk bilgisayarlara aktarmak. Sanal olarak yaşamak. Veya tamamen robot bir bedende yaşamak. Dijital olmak yani. Bu şekilde belki bizde yapay zekanın işlem gücüne erişir ve gelişmiş bir form oluruz. Yani gelecek hakkında cok teori sunabilirim. Zaten bilim kurgu aşığıyım.

Hala yapay zeka tartışmak istiyorsan sana şu soruyu yönelteyim. Şu anki yapay zekalar bir ahtapot düzeyinde bile değil. Bir çok bilimsem araştırma ahtapotların rüya gördüğü yönündeyken yapay zekalarda böyle bir olgu gerçekleşememiştir şu an kesin bir bilinci var diyemeyiz bizim ona verdiğimiz model içerisinde öğrenmeyi tamamlar. Yani bir robotu sırf duygu okumak için yapıp ondan sonra ona yapay zeka duygu okumayı öğrendi denmez modelin dışına çıkıp öğrenmesi lazım diye düşünüyorum. Bana göre eğer bir yapay zeka ne zaman modelinin dışına çıkar yani bir chatbot ne zaman duygu okumayı, satranç oynamayı öğrenir o zaman tetikte olmamız gerekmektedir. Dereyi görmeden paçaları sıvamayalım derim ben.

Ayrıca bilgisayarların işlem gücü de katlanarak artmakta. Bu doğruluğundan emin olmadığım resme göre 2023 yılında bir insan beynini simüle edecek işlem gücüne sahip olacağız.

Hocam ironi yazdığım. Dalga geçiyorum. İnstagrm'da gördüğümü yazdım.

Korktular çünkü. Düşünsene senin yazdığın bir "algoritma" kendi kendine yeni bir "algoritma" yazıyor ve bunu üstüne katlayarak devam ettiriyor. Sonucunda da bilinmeyen bir şey olduğu için korku ve panik duygusuyla böyle bir karar alındığını düşünüyorum.

Sen olayı yanlış anlamışsın. Ben hiçbir şeyden endişe duymuyorum zaten. Sana dedim bunları biz göremeyeceğiniz. Sadece var olabiliyor olması heyecan veriyor. Beyin fırtınası falan yani. Şuanda evren içine gocse big collepse teorisi gerçekleşecek olsa ondan da endişem yok. Dediğim gibi sadece seviyorum böyle şeylere kafa yormayi vs. Senin mantığınla beni alakadar etmiyorsa ugrasmama gerek yok gibi bir durum oluyor.

Zamanında Google AI ile uğraşırken AI kendi dilini konuşup mühendisler anlamayınca programı direk iptal etmişlerdi. Bence her şey mümkün. "Terminatör" faciası olur mu? Zamanla göreceğiz.

Her ne olursa olsun yapay zekaya öğrenmeyi öğretmemeliler.

"İnsan dillerini taklit edebilme yeteneğine sahip en gelişmiş dil modeli": GPT-3 Şu videoyu buraya bırakayım. Tamamını izlemenizi tavsiye etsem de 15:28'den itibaren izleyebilirsiniz. Bu içeriği görüntülemek için üçüncü taraf çerezlerini yerleştirmek için izninize ihtiyacımız olacak. Daha detaylı bilgi için, çerezler sayfamıza bakınız. Üçüncü taraf çerezlerini kabul et

Su döksek ne yapabilirler ki?

Kötü olma ihtimali var. Sonuçta ihtimaller dahilinde iyi de olabilir. Veya bir den çok birey olabilirler. Hem iyileri olur hem kötüleri falan. Bilemezsin. Hep tek bir varlikmis gibi düşünüyoruz ama. Ya işte mesele ne kadar zaman olduğu değil. Bizi ilgilendiren her ne kadar yakın gelecek olsa da, bunun bir uzak geleceği var. Ve teknoloji katlanarak hızlanarak gelişiyor. Bunların bir gün olma olasılığı var. Biz görmesek de var.

Dediğim gibi "Kuantum fiziğinin bir yasasıda bir şey mümkünse o şey kesindir -eğer evren sonsuz ömüre sahipse- Yani bu durumda sen oturduğun yerden atomlarına ayrılmaktan ne kadar endişe duyuyorsan bundan da o kadar endişe duymalısın " seninle konuşmak güzeldi ama yatma vaktim geldi iyi geceler hepinize

İnsanlardaki empati duygusunun kaynağı akraba seçilimi diye hatırlıyorum. Ya onlar bir şekilde bu özelliği edinebilirse. Şu an yapay zekanın amacı insana benzemek değil mi?

@gençyazılımcı0er Bizler sadece öğrendiklerine göre "programlanabilen" bir düşünce yapısına sahip değiliz. Bizdeki etkenlerden sadece biri eğitim/öğretim ile kendi zihnimizi programlama. Bunun dışında hormonal değişimlere göre sürekli değişkenlik gösteren psikolojik yapı ve bunun sonuçları olarak da "duygulara" sahibiz. Fiziksel acı çekmiş ancak içinde öfke olmayan biri acı çeken birisiyle empati kurar. Nefret beslemediği hiçbir canlının bunu yaşamasını istemez hatta engel olmak için çalışır. Zamanında haksızlığa uğramış ama sağlıklı bir zihin yapısına sahip olan bir insan haksızlığa uğrayan insanın o anda ne yaşadığını algılar. Kararlarımızın çoğunu algoritmik değil, duygusal veririz. Yapay zekalar ise bunlara sahip olmayacak, tamamen algoritmik düşünce sistemine sahip olacaklar. Acı çekmenin ne olduğunu bilmeyecekler, aç ve susuz kalmanın ne demek olduğunu bilmeyecekler, alışkanlıklarından kopmuş bir canlının sahip olduğu psikolojik çöküntüyü bilmeyecekler. Kısacası empati sahibi olmayacaklar ve duygusal kararlar vermeyecekler.

Hatam yok ki duzeltemezsin enteresan birisin, "Olsa bile" demişim zaten. Sadece bildiğini göstermek için bir şeyler yazıyorsun. Olacak demedim. Paragrafı tam anlam bütünlüğü ile değerlendirmen lazim. Boşa konuşur dururuz yoksa. Ayrıca düşükte olsa bir olasılık var bilemezsin. Kuantum evreninde her türlü olasiligin olduğu bir durum oluyor dediğin gibi. Ama her şeyi buna bağlamak saçma. Çünkü biz tam olarak kuantum evrenine bağlı değiliz. Bizim bildigimiz boyutlardaki normal evrende, normal fizik yasaları işliyor. Kuantum evreninde farklı. Kuantum evreni acayip küçük nesneler için mümkün oluyor.

Size "Detroit: Become Human" derim ve susarım.