LessWrong

LessWrong（レスロング）は、認知バイアス・哲学・心理学・経済学・理性主義・人工知能などのトピックに焦点を当てたコミュニティブログ・フォーラムサイトである。 LessWrongは、合理性の向上と自己改善につながるとコミュニティメンバーによって信じられているライフスタイルを奨励している。サイト内の投稿は、意思決定やエビデンスの評価に関連するバイアスの回避方法に焦点が当てられていることが多く、意思決定ツールとしてベイズの定理を利用することが提案されている。また、心理学者のダニエル・カーネマンが研究してきた恐怖条件付けや認知バイアスなど、よい意思決定を妨げる心理的障壁にも焦点が当てられている。 また、トランスヒューマニズム・地球壊滅リスク・技術的特異点も関心の対象となっている。ニューヨーク・オブザーバー紙は、次のように指摘している。「『人間的合理性の術』に関するフォーラムと自称しているにもかかわらず、ニューヨークのLessWrongコミュニティは、（中略）大学院のセミナーよりも3Dの複合映画館で見られるような未来学の一分野にこだわっている。すなわち、悲惨な地球壊滅リスク、あるいは運がよい場合に訪れるとされる技術的特異点という理想郷の約束である。（中略）LessWrongのメンバーが行ったように、自らを『理性主義者』としてブランディングすることで、彼らを『終末論カルト』として退けることは非常に困難になる」。 LessWrongは、2006年11月に人工知能研究者のエリーザー・ユドコウスキー（英語版）と経済学者のロビン・ハンソン（英語版）らが中心となって設立した、人間の合理性に焦点を当てたブログサイト『Overcoming Bias』を発展させたものである。2009年2月、ユドコウスキーの投稿を基にLessWrongが設立され、Overcoming Biasはハンソンの個人ブログとなった。2013年には、理性主義者コミュニティの大部分がスコット・アレクサンダーのSlate Star Codex（英語版）に移住した。 LessWrongとその周辺の動きは、バズフィードの科学ジャーナリストとして働いていたトム・チヴァース（英: Tom Chivers）の著書『The AI Does Not Hate You』（2019年）の主題となった。 2010年7月、Rokoという名前のユーザーが、「さもなければ善良な未来の人工超知能は、そのAIの開発に直接貢献しなかった人々を拷問し、自らの誕生を確実なものとするために人々を強制するのではないか」という思考実験を投稿した。彼は、ユドコウスキーが考案した「時間超越決定理論」（英: timeless decision theory）を用い、現在の人間に因果的な影響を及ぼすことはできないが、このAIにとっては有益であると主張した。この思考実験は、のちに「ロコのバジリスク」と呼ばれるようになった。Rokoは、このアイデアについて認識した時点で、このAIの開発に貢献可能な人間とみなされ、もし貢献しなかった場合は、このAIによる将来的な拷問の対象になるとした。ユドコウスキーは、認識することすら危険な情報を発信するという行為自体が有害であり、この思考実験を投稿することは「愚か」であるとし、「このアイデアには致命的な欠陥があるものの、情報災害とみなされうる『真に危険な考え』を含む可能性のある思考空間を表している」と述べ、この話題に関するRokoの投稿を削除した。ロコのバジリスクに関する議論は、「神経衰弱を起こす読者がいる」という理由で、2015年10月に解除されるまで禁止された。 デイビット・アウエルバッハ（英語版）は、Slate（英語版）への寄稿の中で次のように述べている。「イデオロギーに関係なく、救世主的野心、自己の無謬性の確信、そして多額の現金の組み合わせは、決してうまくいかないものだ。私はユドコウスキーとその仲間たちが例外になるとは思わない。私はロコのバジリスクよりも従来の倫理規範を超越した存在であると自負している人々の方を心配している」。 ロコのバジリスクは、カナダのミュージシャン・グライムスが2015年にリリースした楽曲『Flesh Without Blood（英語版）』のミュージックビデオにおいて、「ロココ・バジリスク」（英: Rococo Basilisk）というキャラクターを通じて言及され、「人工知能に永遠に拷問される運命にあるが、彼女はマリー・アントワネットのようでもある」と表現された。グライムスが自身よりも先にこのダジャレを思いついていたことを知ったイーロン・マスクは、彼女と連絡を取り、交際に発展した。この思考実験は、ドラマ『シリコンバレー』のエピソード『顔認識』（英: Facial Recognition）でも言及された。 ロコのバジリスクは、現代版のパスカルの賭けであると評されている。 優生学と進化心理学に関する議論が行われていたことから、新反動主義運動（暗黒啓蒙）はLessWrongで最初に広まった。しかし、ユドコウスキーは新反動主義を強く否定している。2016年にLessWrongユーザーを対象に行われた調査では、3060名の回答者のうち、0.92%にあたる28名が新反動主義者であると回答した。 LessWrongは、効果的利他主義（英: effective altruism、EA）運動の発展において重要な役割を果たしており、両者のコミュニティは密接に関連している。2016年にLessWrongユーザーを対象に行われた調査では、3060名の回答者のうち、21.7%にあたる664名が効果的利他主義者であると回答している。2014年に効果的利他主義者を対象に行われた調査では、回答者の31%がLessWrongを通じて初めて効果的利他主義を知ったことが明らかになった。しかし、2020年には8.2%に減少した。効果的利他主義の初期の提唱者であるトビー・オード（英語版）とウィリアム・マカスキル（英語版）は、オックスフォード大学でトランスヒューマニストのニック・ボストロムと出会った。ボストロムの研究は、多くの効果的利他主義者に影響を与え、地球壊滅リスクの低減に取り組ませることにつながった。 ^ “Less Wrong FAQ”. LessWrong. 30 April 2019時点のオリジナルよりアーカイブ。25 March 2014閲覧。 ^ a b Miller, James (July 28, 2011). “You Can Learn How To Become More Rational”. オリジナルの10 August 2018時点におけるアーカイブ。. https://web.archive.org/web/20180810011032/https://www.businessinsider.com/ten-things-you-should-learn-from-lesswrongcom-2011-7 March 25, 2014閲覧。  ^ Burkeman, Oliver (March 9, 2012). “This column will change your life: asked a tricky question? Answer an easier one”. The Guardian. オリジナルの26 March 2014時点におけるアーカイブ。. https://web.archive.org/web/20140326013744/http://www.theguardian.com/lifeandstyle/2012/mar/09/change-life-answer-easier-question March 25, 2014閲覧。  ^ a b Tiku, Nitasha (2012年7月25日). “Faith, Hope, and Singularity: Entering the Matrix with New York's Futurist Set”. オリジナルの12 April 2019時点におけるアーカイブ。. https://web.archive.org/web/20190412214151/https://observer.com/2012/07/faith-hope-and-singularity-entering-the-matrix-with-new-yorks-futurist-set/ 2019年4月12日閲覧。  ^ “Where did Less Wrong come from? (LessWrong FAQ)”. 30 April 2019時点のオリジナルよりアーカイブ。March 25, 2014閲覧。 ^ Lewis-Kraus, Gideon (9 July 2020). “Slate Star Codex and Silicon Valley's War Against the Media” (英語). The New Yorker. オリジナルの10 July 2020時点におけるアーカイブ。. https://web.archive.org/web/20200710020419/https://www.newyorker.com/culture/annals-of-inquiry/slate-star-codex-and-silicon-valleys-war-against-the-media 4 August 2020閲覧。.  ^ Cowdrey, Katherine (21 September 2017). W&N wins Buzzfeed science reporter's debut after auction. オリジナルの27 November 2018時点におけるアーカイブ。. https://web.archive.org/web/20181127122337/https://www.thebookseller.com/news/wn-wins-three-way-auction-buzzfeed-science-reporters-debut-642406 2017年9月21日閲覧。.  ^ Chivers, Tom (2019). The AI Does Not Hate You. Weidenfeld & Nicolson. ISBN 978-1474608770  ^ Marriott, James (31 May 2019). “The AI Does Not Hate You by Tom Chivers review — why the nerds are nervous”. The Times. ISSN 0140-0460. オリジナルの23 April 2020時点におけるアーカイブ。. https://web.archive.org/web/20200423043650/https://www.thetimes.co.uk/article/the-ai-does-not-hate-you-superintelligence-rationality-and-the-race-to-save-the-world-by-tom-chivers-review-why-the-nerds-are-nervous-klx0xd293 2020年5月3日閲覧。  ^ RobbBB (5 October 2015). “A few misconceptions surrounding Roko's basilisk”. LessWrong. オリジナルの15 March 2018時点におけるアーカイブ。. https://web.archive.org/web/20180315122852/http://lesswrong.com/r/discussion/lw/mge/a_few_misconceptions_surrounding_rokos_basilisk/ 10 April 2016閲覧. "The Roko's basilisk ban isn't in effect anymore"  ^ Love, Dylan (6 August 2014). “WARNING: Just Reading About This Thought Experiment Could Ruin Your Life”. オリジナルの18 November 2018時点におけるアーカイブ。. https://web.archive.org/web/20181118105522/https://www.businessinsider.com/what-is-rokos-basilisk-2014-8 6 December 2014閲覧。  ^ a b Auerbach, David (17 July 2014). “The Most Terrifying Thought Experiment of All Time”. Slate. オリジナルの25 October 2018時点におけるアーカイブ。. https://web.archive.org/web/20181025091051/http://www.slate.com/articles/technology/bitwise/2014/07/roko_s_basilisk_the_most_terrifying_thought_experiment_of_all_time.single.html 18 July 2014閲覧。  ^ Paez, Danny (5 August 2018). “Elon Musk and Grimes: "Rococo Basilisk" Links the Two on Twitter”. オリジナルの24 July 2020時点におけるアーカイブ。. https://web.archive.org/web/20200724233408/https://www.inverse.com/article/44612-elon-musk-grimes-rococo-basilisk 2020年7月24日閲覧。  ^ Oberhaus, Daniel (8 May 2018). Explaining Roko's Basilisk, the Thought Experiment That Brought Elon Musk and Grimes Together. オリジナルの25 July 2020時点におけるアーカイブ。. https://web.archive.org/web/20200725012830/https://www.vice.com/en_us/article/evkgvz/what-is-rokos-basilisk-elon-musk-grimes 2020年7月24日閲覧。.  ^ Burch, Sean (2018年4月23日). “'Silicon Valley' Fact Check: That Thought Experiment Is Real and Horrifying”. オリジナルの12 November 2020時点におけるアーカイブ。. https://web.archive.org/web/20201112194104/https://www.thewrap.com/silicon-valley-rokos-basilick-thought-experiment-real-horrifying-fact-check/ 2020年11月12日閲覧。  ^ Paul-Choudhury, Sumit (2 August 2019). “Tomorrow's Gods: What is the future of religion?”. BBC. オリジナルの1 September 2020時点におけるアーカイブ。. https://web.archive.org/web/20200901121551/https://www.bbc.com/future/article/20190801-tomorrows-gods-what-is-the-future-of-religion 28 August 2020閲覧。  ^ Keep, Elmo (22 June 2016). “The Strange and Conflicting World Views of Silicon Valley Billionaire Peter Thiel”. Fusion. 13 February 2017時点のオリジナルよりアーカイブ。2016年10月5日閲覧。 “Thanks to LessWrong’s discussions of eugenics and evolutionary psychology, it has attracted some readers and commenters affiliated with the alt-right and neoreaction, that broad cohort of neofascist, white nationalist and misogynist trolls.” ^ Riggio, Adam (23 September 2016). “The Violence of Pure Reason: Neoreaction: A Basilisk”. Social Epistemology Review and Reply Collective 5 (9): 34–41. ISSN 2471-9560. オリジナルの5 October 2016時点におけるアーカイブ。. https://web.archive.org/web/20161005194701/https://social-epistemology.com/2016/09/23/the-violence-of-pure-reason-neoreaction-a-basilisk-adam-riggio/ 5 October 2016閲覧. "The embryo of the movement lived in the community pages of Yudkowsky’s blog LessWrong, a website dedicated to refining human rationality."  ^ a b Siemons, Mark (2017年4月14日). “Neoreaktion im Silicon Valley: Wenn Maschinen denken” (ドイツ語). Frankfurter Allgemeine Zeitung. ISSN 0174-4909. オリジナルの13 June 2022時点におけるアーカイブ。. https://web.archive.org/web/20220613193539/https://www.faz.net/aktuell/feuilleton/debatten/die-digital-debatte/neoreaktionaere-im-silicon-valley-14953248.html 2019年3月23日閲覧。  ^ Riggio, Adam (23 September 2016). “The Violence of Pure Reason: Neoreaction: A Basilisk”. Social Epistemology Review and Reply Collective 5 (9): 34–41. ISSN 2471-9560. オリジナルの5 October 2016時点におけるアーカイブ。. https://web.archive.org/web/20161005194701/https://social-epistemology.com/2016/09/23/the-violence-of-pure-reason-neoreaction-a-basilisk-adam-riggio/ 5 October 2016閲覧. "Land and Yarvin are openly allies with the new reactionary movement, while Yudkowsky counts many reactionaries among his fanbase despite finding their racist politics disgusting."  ^ Eliezer Yudkowsky (8 April 2016). “Untitled”. Optimize Literally Everything (blog). 26 May 2019時点のオリジナルよりアーカイブ。7 October 2016閲覧。 ^ Hermansson, Patrik; Lawrence, David; Mulhall, Joe; Murdoch, Simon (2020). “The Dark Enlightenment: Neoreaction and Silicon Valley”. The International Alt-Right. Fascism for the 21st Century?. Abingdon-on-Thames, England, UK: Routledge. ISBN 9781138363861. オリジナルの13 June 2022時点におけるアーカイブ。. https://books.google.com/books?id=43fNDwAAQBAJ&q=3060 2 October 2020閲覧。  ^ de Lazari-Radek, Katarzyna; Singer, Peter (2017-09-27). Utilitarianism: A Very Short Introduction. Oxford University Press. p. 110. ISBN 9780198728795  ^ a b c Chivers, Tom (2019). “Chapter 38: The Effective Altruists”. The AI Does Not Hate You. Weidenfeld & Nicolson. ISBN 978-1474608770  ^ Moss, David (2021年5月20日). “EA Survey 2020: How People Get Involved in EA”. オリジナルの28 July 2021時点におけるアーカイブ。. https://web.archive.org/web/20210728202421/https://forum.effectivealtruism.org/posts/tzFcqGmCA6ePeD5wm/ea-survey-2020-how-people-get-involved-in-ea 2021年7月28日閲覧。  公式ウェブサイト Ingres (14 May 2016). “2016 Survey Results”. 9 April 2017閲覧。 — LessWrongサブカルチャーの意見に関する調査