Leopold Aschenbrenner

Leopold Aschenbrenner (gebore 2001 of 2002) is 'n Duitse navorser en belegger in kunsmatige intelligensie (KI). Hy was deel van OpenAI se "Superalignment"-span voordat hy in April 2024 afgedank is oor 'n beweerde inligtinglek. Hy het 'n gewilde essay gepubliseer met die titel "Situational Awareness" oor die opkoms van kunsmatige algemene intelligensie en verwante sekuriteitsrisiko's.

Biografie
Aschenbrenner is in Duitsland gebore. Hy is opgevoed aan die John F. Kennedy-skool in Berlyn en het in 2021 op 19-jarige ouderdom as valedictorian aan die Columbia-universiteit gegradueer. Hy het navorsing gedoen vir die Global Priorities Initiative aan die Universiteit van Oxford en was mede-outeur van 'n werksartikel in 2024 saam met Philip Trammell van Oxford. Hy het ook ervaring met die effektiewe altruïsme-beweging. As deel van die beweging was Aschenbrenner 'n lid van die FTX Future Fund-span, 'n filantropiese inisiatief wat deur die FTX-stigting geskep is, van Februarie 2022 tot FTX se bankrotskap in November van daardie jaar.

OpenAI
Aschenbrenner het in 2023 by OpenAI aangesluit, aan 'n projek genaamd "Superalignment" wat ondersoek hoe potensiële toekomstige superintelligensies met menslike waardes in lyn gebring kan word.

In April 2023 het 'n kuberkraker toegang verkry tot OpenAI se interne boodskapstelsel en inligting gesteel, 'n gebeurtenis wat OpenAI privaat gehou het.  Daarna het Aschenbrenner 'n memo aan OpenAI se direksie geskryf oor die moontlikheid van industriële spioenasie deur Chinese en ander buitelandse entiteite, waarin hy aangevoer het dat OpenAI se sekuriteit onvoldoende was. Volgens Aschenbrenner het hierdie memo gelei tot spanning tussen die direksie en die leierskap oor sekuriteit, en hy het 'n waarskuwing van menslike hulpbronne ontvang. OpenAI het hom later in April 2024 afgedank oor 'n beweerde inligtinglek, wat volgens Aschenbrenner oor 'n goedaardige dinkskrumdokument gegaan het wat met drie eksterne navorsers vir terugvoer gedeel is. OpenAI het verklaar dat die ontslag nie verband hou met die sekuriteitsmemo nie, terwyl Aschenbrenner gesê het dat dit destyds eksplisiet aan hom gemaak is dat dit 'n belangrike rede was. Die "Superalignment"-span is 'n maand later ontbind, met die vertrek van ander navorsers soos Ilya Sutskever en Jan Leike uit OpenAI.

Beleggings
Aschenbrenner het gesê dat hy 'n beleggingsfirma begin het met beleggers Patrick en John Collison, Daniel Gross, en Nat Friedman. Vernoem na sy opstel Situasionele Bewustheid, bestuur die KI-gefokusde verskansingsfonds meer as $1.5 miljard vanaf 2025.

Situational Awareness essay
In 2024 het Aschenbrenner 'n 165-bladsy essay geskryf met die titel "Situational Awareness: The Decade Ahead". Dit bevat afdelings wat die opkoms van AKI voorspel, 'n pad van AKI na superintelligensie verbeel, vier risiko's vir die mensdom beskryf, 'n manier uiteensit vir mense om superintelligente masjiene te hanteer, en die beginsels van 'n "AKI-realisme" artikuleer. Hy waarsku spesifiek dat die Verenigde State hulle moet verdedig teen die gebruik van KI-tegnologieë deur lande soos Rusland en die Volksrepubliek China. Sy analise is gebaseer op toekomstige kapasiteit vir KI-stelsels om KI-navorsing uit te voer, wat 'n Forbes-skrywer na verwys het as "rekursiewe selfverbetering en weghol-superintelligensie".

 Verwysings 

Kategorie:Lewende mense
Kategorie:Kunsmatige intelligensie