OpenAI

Tarihçe

Ekim 2015'te, Musk, Altman ve diğer yatırımcılar 1 milyarın doların üzerinde bir yatırım yaparak organizasyonu baştmışlardır.
27 Nisan 2016'da, OpenAI, pekiştirmeli öğrenme araştırma platformu olan “OpenAI Gym” adlı herkese açık bir beta sürümünü yayınladı.
5 Aralık 2016'da OpenAI, bir yapay zeka'nın dünyadaki oyun, web sitesi ve diğer uygulamalar üzerindeki genel zekasını ölçmek ve eğitmek için kullanılan bir yazılım platformu olan Universe'yi piyasaya sürdü. 21 Şubat 2018’de, Musk, otonom otomobiller için Tesla yapay zeka geliştirmesinde bulunmasından dolayı “gelecekteki olası bir anlaşamamazlık çıkmasını” öne sürerek yönetim kurulundak istifa etti, ancak bağışçılığını devam ettirdi.
2018 itibarıyla, OpenAI, San Francisco Mission Bölgesi'nde, Musk'un diğer bir ortak şirketi olan Neuralink ile bir ofis binasını paylaşmaktadır.

Motivleri

Stephen Hawking ve Stuart Russell gibi bazı bilim insanları, gelişmiş yapay zeka'nın bir gün kendini sürekli artan bir oranda yeniden tasarlama yeteneğini kazanması durumunda, durdurulamaz bir "zeka patlaması"nın insanın neslinin tükenmesine yol açabileceğini düşünmüşlerdir. Musk, yapay zeka'yı insanlığın "en büyük varoluşsal tehdidi" olarak nitelendirmiştir. OpenAI'nin kurucuları onu kar amacı gütmeden yapılandırmıştır, böylece araştırmalarını uzun vadeli olumlu bir insan etkisi yaratmaya odaklamışlardır.
OpenAI, insani seviyedeki yapay zeka'nın topluma ne kadar fayda sağlayabileceğini anlamanın zor olduğunu ve yanlış inşa edildiğinde veya yanlış kullanıldığında topluma ne kadar zarar verebileceğini anlamanın aynı derecede zor olduğunu belirtmektedir. Güvenlik araştırması'nın ertelenmesi güvenli değildir: “yapay zeka'nın şaşırtıcı geçmişi nedeniyle, insani seviyedeki yapay zeka'nın ne zaman ulaşabileceğini tahmin etmek zor. ” OpenAI, yapay zeka'nın “bireysel insanın isteklerinin bir uzantısı olması ve özgürlük ruhu içinde mümkün olduğunca geniş ve eşit bir şekilde dağıtılması gerektiğini belirtmektedir”, ve potansiyel olarak muazzam yapay zeka özellikli ürün sınıfına atıfta bulunularak:"Gerçekten toplumumuzun sadece bir kaç kişi tarafından bilinen otonom yapay zekalar tarafından kontrol edilmesine istekli miyiz? Elbette değil.”  Eşbaşkan Sam Altman, on yıllardır sürecek olan projenin insan zekasını geçmesini beklemektedir.
Infosys'in eski CEO'su Vishal Sikka, “insanlığın genel yararına daha fazla sonuç elde etmek için” çaba gösterileceği bu kuruluşa destek olduğunu ve OpenAI'nin uzun zamandır elde ettikleri değerlerle çok iyi uyum sağladığını belirtmiştir. Wired'dan Cade Metz, Amazon gibi şirketlerin, çok sayıda özel veri kaynağına sahip olan Google ve Facebook gibi şirketlere karşı alanını düzleştirmek için açık kaynaklı yazılım ve verileri kullanma isteği ile motive olabileceğini öne sürmektedir. Altman, Y Combinator şirketlerinin verilerini OpenAI ile paylaşacağını belirtti.

Strateji

Musk şu soruyu sormuştur: “Geleceğin iyi olmasını sağlamak için yapabileceğimiz en iyi şey nedir? Aralarında oturabiliriz ya da düzenleyici gözetimi teşvik edebiliriz ya da yapay zeka'yı güvenli ve insanlığa yararlı bir şekilde geliştirmeye derinden önem veren insanlarla doğru yapıya katılabiliriz. Musk, “Aslında (dost) yapay zeka'yı ilerletmeye çalışırken her zaman bir riskin olduğunu” kabul etmiştir; Bununla birlikte, en iyi savunma “yapay zeka'ya sahip olabilecek birçok insanı güçlendirmektir. Herkesin yapay zeka gücü varsa, o zaman yapay zeka süper gücüne sahip olabilecek tek bir kişi veya küçük bir birey olmayacaktır.“
Musk ve Altman'ın yapay zeka'nın genel zarara neden olma riskini azaltmaya çalışmasının karşı sezgisel stratejisi, herkese yapay zeka verme fikri, yapay zekanın varoluşsal riskinden endişe duyanlar arasında tartışmalıdır. Filozof Nick Bostrom Musk'un yaklaşımına kuşkuyla bakmaktadır: “Dünyaya kötü şeyler yapabilen bir düğmeniz varsa, bunu herkese vermek istemezsiniz.”  Teknolojik tekillikle ilgili bir 2016 sohbeti sırasında Altman, “tüm kaynak kodumuzu yayınlamayı planlamıyoruz” dedi. Greg Brockman, “Şu anda hedefimiz yapılacak en iyi şeyi yapmaktır. Bu biraz belirsiz.“ açıklamasında bulunmuştur.

Gym

Gym, pekiştirmeli öğrenme araştırmalarında kullanılan ImageNet Büyük Ölçekli Görsel Tanıma Mücadelesi'ne benzeyen, ancak bunlardan daha geniş olan ve çok çeşitli farklı ortamlara sahip, kurulumu kolay bir genel zeka testi sunmayı amaçlamaktadır. Yapay zeka araştırma yayınlarında hangi ortamların tanımlandığını belirtir, böylece yayınlanan araştırmanın daha kolay bir şekilde yeniden üretilebilmesini kolaylaştırır. Proje kullanıcıya basit bir arayüz sağladığını iddia etmektedir. Haziran 2017'den itibaren, Gym yalnızca Python ile birlikte kullanılabilir. Eylül 2017 itibarıyla, Gym dokümantasyon sitesi sürdürülmedi ve aktif çalışma yerine GitHub sayfasına odaklandı.

RoboSumo

“RoboSumo” da, sanal insansı “metaöğrenme” robotlar başlangıçta nasıl yürüyecekleri konusunda bilgisizdir ve hareket etmeyi öğrenme ve rakip ajanın halka dışına itme hedefleri verilmiştir. Bu öğrenme sürecinde, ajanlar değişen koşullara nasıl adapte edileceğini öğrenir; bir ajan daha sonra bu sanal ortamdan çıkarıldığında ve şiddetli rüzgarlarla yeni bir sanal ortama yerleştirildiğinde, aracı genel olarak nasıl dengeleyeceğini öğrendiğini öne sürerek dik durur. OpenAI’den Igor Mordatch, ajanlar arasındaki rekabetin, bir ajanın rekabet bağlamı dışında bile çalışabilme yeteneğini artırabilecek bir zekasal “silahlanma yarışı” yaratabileceğini düşünmektedir.

Tartışma Oyunu

2018'de OpenAI, bir insan hakimin önünde oyuncak problemlerini tartışmak için makineler öğreten Tartışma Oyununu başlattı. Amaç, böyle bir yaklaşımın yapay zeka kararlarını denetlemeye ve açıklanabilir yapay zeka geliştirmeye yardımcı olup olmadığını araştırmaktır.

OpenAI Five

OpenAI Five, Dota 2 video oyununda kullanılan beşli bot takımıdır ve bu botlar insan oyuncularına karşı tamamen yetenekli bir şekilde deneme yanılma algoritmalarıyla oynamayı öğrenir. Beşli bir ekip haline gelmeden önce, ilk halka açık gösteri, International 2017'de oyuna profesyonel bir Ukraynalı oyuncu olan Dendi'nin canlı yayında 1'e 1 maçında bir bota kaybetmiştir. Maçtan sonra CTO Greg Brockman, botun iki hafta boyunca gerçek zamanlı olarak kendisine karşı oynayarak öğrendiğini ve öğrenme yazılımının karmaşık görevleri yerine getirebilecek yazılım oluşturma yönünde bir adım olduğunu açıkladı. Botlar aylar boyunca günde yüzlerce kez kendilerine karşı oynayarak zaman içinde öğrendikleri ve düşmanı öldürmek ve kuleleri yıkmak gibi eylemler için ödüllendirildiği için sistem ile bir pekiştirmeli öğrenme şekli kullanmaktadır. Haziran 2018’e kadar, botların yetenekleri beş kişilik bir ekip olarak birlikte oynanabildi ve amatör ve yarı profesyonel oyunculardan oluşan ekipleri yenebildi. Uluslararası 2018’de OpenAI Five, profesyonel oyunculara karşı iki maçta oynadı. Botlar her iki oyunu da kaybetmelerine rağmen, OpenAI, Dota 2'deki en iyi oyuncuların bazılarına karşı oynadıklarının gelecekteki oyunlar için algoritmalarını analiz etmelerini ve ayarlamalarını sağladığını belirterek başarılı bir girişim olduğunu belirtti.

Dactyl

Dactyl, OpenAI Five'ın kullandığı pekiştirmeli öğrenme algoritması kodunu kullanarak, bir robot Gölge El'i sıfırdan eğitmek için makine öğrenmesini kullanır. Robot eli tamamen fiziksel olarak yanlış simülasyonda eğitilmiştir.

GPT2

GPT2, konu ve ton cinsinden girişi ile eşleşen metin üreten bir yapay zeka sistemidir. Örneğin, George Orwell'in romanı 1984'ün ilk cümlesini aldığında, Çin'de ortaya konan bir fütüristik kurgu üretebilir. Önceki OpenAI ürünlerinden farklı olarak, GPT2, sahte haberler yazma uygulamaları da dahil olmak üzere olası kötüye kullanım kaygılarından dolayı toplulukla paylaşılmamıştır.