オンライン・ヘイトスピーチ規制の法内在的制約（２）－ 発語内的な規範設定の特質とその阻却可能性
The Regulation of Hate Speech and Inherent Limitations(2): On the Nature of Illocutionary Norm-Enactment and Defeasibility

永石 尚也 *
Naoya Nagaishi

はじめにオンライン上のヘイトスピーチへの規制の議踏まえつつ、会話において許容される事実を設論ではしばしば、リアル空間でなされた場合に定する発語内行為とその効果に着目する分析のヘイトスピーチだと認識される典型的発話が射程を明らかにする。特に、会話において許容（SNS や動画共有サイト、あるいは掲示板フォーされる事実を設定するメカニズム（状況的規範

ラム等、何らかの形態の）オンラインでなされの設定メカニズム）が、オンライン上では異なた状況を想定し、その上でリアル空間におけるる機能を持つことに着目することで、具体的な規制の類推や拡張の可否や、それに即した規制

対抗言論組成のバリエーションについて示唆をの諸条件が論じられてきた。しかしこの種の議得る。

論は、現実の排除や「貶め」等の各種の機能か第二に、本稿ではオンライン空間上で有害とら定義されるはずのヘイトスピーチについて、目される情報へのアクセスがなされる場合のコ

発話内容のタイプから特定する前提を導入してミュニケーションの多くは、（即時的な発話といる点において、そもそも概念的に誤りを含ん応答の連鎖からなる会話状況とは異なり）通時でいる 。この結果として、現実の排除や「貶め」

的に蓄積されていく情報への積極的な参照と切とはかかわりのない表現をも含んだ規制をも正り離すことができず、またヘイトスピーチとし当化する点において、実践的にも誤導的なものての機能の実現についても発話時点以降になさになってきた。

れる「物言い」に依存する傾向がリアル空間に

1

そこで本稿では、以下の三つの課題に取り組比して高い点に焦点を当てる。この環境下におむ。第一に、有害と目されるオンライン上の発

いては、ポジティブカウンタースピーチおよび話が持つコミュニケーション・空間的な特質を通時的カウンタースピーチとして議論される対* 東京大学大学院情報学環
キーワード：ヘイトスピーチ、言語行為論、コンテンツモデレーション、対抗言論、スコアキーピング、フィクションの真理

オンライン・ヘイトスピーチ規制の法内在的制約（２）35抗措置が発話の危害を抑制する観点からは有効

るオンライン上の発話に対する諸規制のバリとなり、その具体的な形態として発話の持つ暗エーションのうち、現在の情報環境下において黙の前提を可視化する「ブロッキング」戦略、

法的に許容しうる規制態様とその条件を定式化

当該前提をより平等主義的なものへと受け手側することを目指す。

が曲げて解釈することで、元の発話の意味を修

悪しき差別につながりうる深刻な害は少ない

正する「辻褄合わせ bending」戦略、発話の効に越したことはないものの、個別的な害を除去

力を宙吊りにする「非決定」戦略が有用となりしさえすれば他の問題がどうでも良くなるわけ

うることを示す。上記の戦略は、特定の発話のではない。特定の社会状況においては自明に思意味・意図の認定に基づく規範逸脱的発話の禁える害を規制によって除去しようとする場面に止や制裁付与、あるいは個別的な投稿の削除やおいてこそ、当該除去手段としての規制とその発話者のデプラットフォーミングなどと異な

濫用のおそれに伴う社会的コストを正確に把握り、元の発話の効力を明示的あるいは黙示的にする必要がある。本稿を通じて、オンライン空限定・修正する点において、意味・意図の認定間における認識上の限界を踏まえた有害な発話にまつわる困難を避けつつ、発話の効力を規範への実践的対応について、オンライン上のなり適合的なものとして保持させる特徴を有する。

すましの問題への対応や偽情報規制の難しさとこの点において従来の規制手法に比して優位性の比較を通じて、オンライン上のヘイトスピーを示すことを、併せて示す。

チ規制への今後の展望を示す。2

第三に、上記の作業を通じて、有害と目され

１、オンラインヘイトスピーチの発語内行為としての側面
１.1 スコアキーピング（スコア記録）と s 規範設定
さて、前稿ではオンラインヘイトスピーチとの問題を抱えている 3。オンライン空間におい目される発話が引き起こしうる害、すなわち発ては、発話が引き起こす（cause）害は、その話と因果的に結びついた特有の害を特定するア

匿名性や高度の流通性、情報の持続性などの性プローチには種々の困難がつきまとう事態を明質によって増幅されるばかりでなく限定もされらかにした。この困難の原因は、個別の発話がる 4。たとえば SNS 上のテキストは、発話が突因果的にもたらす害が、表現が置かれた文脈と如として自身を襲うというよりも、自身の内言表現の効果を遮断する主体やアーキテクチャのとして再構成される過程を介してその効果を生作用によって複雑化しがちであり、またその実じさせる特徴を有する。このように、リアル空現が不確実なものとなることに求められる。す間においては自らの住まう環境にヘイトスピー

なわち、発話がその後に続く事態の推移に依存

チに属する発話群が物理的に回避困難な形で介しているために、因果的な偶発性を伴う点にそ入してくる一方で、オンライン空間で完結する

36

東京大学大学院情報学環紀要

情報学研究

№106

有害な発話群については、この介入が間接的での中で許容される個別の発話が調整（調律）さあり、技術的にも選択・遮断が可能である場合

れ、その調整（調律）により変更された新たなが多いことが想定される。

会話スコアに照らして、続く発話の真偽や許容

こうした見解に対して、オンラインヘイトス

性の判断基準、その適切性条件が規範的に設定

ピーチを含む有害な発話は、続く会話において（enactment） される。 これらの規範は状況的許容される事実の（例えば平等性などの規範に規範としての「s 規範」と呼ばれ、より広範な反する形で）設定を直接になす（do）ことで、社会的な構造を反映した基盤的規範としての害を構成するとする見解がある。この見解は、「g 規範」に支えられることで設定される一方発話をなすことによって（by）生み出されるで、また逆に g 規範の維持にも寄与する。こう害というよりも、発話をなすことにおいて（of）

して設定された s 規範について、事後に異議を構成される害に着目する。この結果、特定の状

唱え、否定を試みることが可能であるとして況下においてヘイトスピーチの発話それ自体がも、それは発話による発語内的な効力（例えば続く会話で許される発話や真となる発話を指定

抑圧等）を事後的に取消すこと（undo）であっ（制約）する規範を作り出し、当該規範の瀰漫て、一旦生じた効果を遡って無にすることではによって、社会全体の差別的な環境を維持・助ない。この効力のうち、s 規範が現実に特定の長すると捉える。

属性を持つ人々を排除したり、人々の平等な地

以下ではこの見解に立つマクガワンの議論5

位を貶めたりする機能を果たす場合、社会的状を批判的に検討した上で、同理論を（その多く

況と発話そのものの効果（force）6 による害、が典型的な会話状況からは逸脱する）オンライ

言い換えれば、発話それ自体によって設定されンヘイトスピーチへと適用できるかについて詳た規範による害や、その規範によって続く発話述する。

（典型的には異議や否定等）が抑圧される害がマクガワンによる議論は、次のように要約で構成されることとなる。

きる。リアル空間における会話状況において以上が、典型的な会話状況における s 規範設

は、ある発話が伝達する内容に加え、発話それ定についてのマクガワンの議論の要約である。

自体を真あるいは妥当なものとするように発話

さらにマクガワンは、会話状況以外の社会的なの背景をなす文脈を調整（調律）する「受け入規範に統制された活動においても、一度生じたれ（accommodation）」 の 力 が、 当 該 発 話 の 瞬

スコア変更による s 規範設定は一般的に生じる間に発動する。この受け入れは、会話が可能なものであるとも主張する 7。つまり、非会話状

限り滞りなく調和的に継続されること自体へ貢況においても会話規範と同様に、抑圧をもたら献するように誘因する同調作用による。この結すなど望ましくない規範設定 8 は遍在している

果、調和の達成を会話参加者自らが評価する基とマクガワンは考える 9。特殊な地位や特殊な礎となるスコア、すなわち、「会話スコア」に

環境は我々の社会的相互作用を統制する g 規範

動的に変更が生じる。つまり、続く会話の進行の一部であり、特定状況下の s 規範設定・スコ

オンライン・ヘイトスピーチ規制の法内在的制約（２）37ア変動に関わる蓋然性は高いだろうものの、必に設定され、その集積が悪しき g 規範としての然的関係にはない。体系的に差別的であったり機能を維持させる循環をなす関係に立つ 10。

する g 規範の一部を通じて、s 規範は場面ごと

1.2 ヘイトスピーチの害の構成と、続く発話による効力の限定
このマクガワンのアイデアを引き継ぎ、近ゲームにおいて「正しい」とされるプレイとそ

年、ヘイトスピーチの害の構成メカニズムの分

うでないものを作り出したり、ある会話におい析やそれに基づく対抗的アプローチ態様・規制て「正しい」とされる前提や事実を作り出した態様の分析において、この「受け入れ」がもた

りするスコアの運動が存在し、その運動の仕方

らす危害が論じられている 11。とりわけ、個別（kinematics）を参加者や観察者が追跡しなが的 s 規範は、（広く了解された基盤的 g 規範とらゲームや会話が進行するとともに、そこでの結びつくことで）覆したり変えたりするよりもスコア関数が変容しつつゲームや会話における設定する方が容易だという、非対称な「粘着性」「正しさ」を統制するとするアイデアであった。

12を持つとの指摘は広く共有されている 。この例えば、ある上下関係に基づく会話上の命令

粘着性ゆえに、悪しき発話に対する異議や否定が（命令に続く行為として）許容される「正し自体も、争点化された集団の属性を顕著なもの

い」行為の範囲を設定する。あるいは、公式のとして際立たせてしまう点において問題がある

野球のゲームにおけるスコアボード上の記録がことも認識されている。マクガワン自身も明示（記録に続く行為としての）打者や走者の「正的に、上記のアイデアを対面状況におけるヘイ

しい」動きやその違反、あるいはゲーム進行とトスピーチに適用しており、さらに近時においしての攻守交代を統制する。これらと類比的てもこの立場は維持されている 13。しかしこのに、会話における「正しい」とされる前提や指立場には、理論上の難点及び具体的事例への適示対象、場所や時点の参照点、曖昧な発話にお用上の難点が含まれている。

ける「正しさ」の境界やその精度、可能性を含第一の難点として、マクガワンが自身の理論

む様相文の真偽、さらには結婚や命名などそのの基礎とした D. ルイスのアイデアと、マクガ遂行に際して社会実践に裏付けられた適切性条

ワン自身が提示した s 規範のアイデアとの理論件を要する発話においては、「正しい」文は当的な衝突の問題がある。元々のルイスの論文

該会話自体の進行と会話を含む社会実践に依存（1979）におけるスコアキーピング（スコア記録）

して変動することとなる。これらのスコア記録というアイデアは、言語を通じた様々な実践にが続く発話における「正しさ」を設定するととおける「正しさ」の構築とその変容過程を取りもに、そのゲーム上の「正しさ」がスコア運動

扱うものであり、（マクガワンが捉えているよに伴い変動することとなるのである 15。

うな意味論的モデルというよりも）メタ意味論
14

的なモデルであると考えられる 。すなわち、

38

さらに、記録されるスコア自体さえも不確定なまま宙吊りにされるゲームや会話もある。例

東京大学大学院情報学環紀要

情報学研究

№106

えば、緊急事態・犯罪の発生を想定した計画立は異なるだろうし、潜在的な曖昧さをより明確

案や組織継続に向けて一定の不確実性を伴う対にしていく言語ゲームではそれを「正しくす策想定等に見られるように、当該会話自体が参る」力が生じる傾向を持つ一方で、計画立案な

加者自身による遂行を伴わない、複数の反事実

どの（会話中に現れる諸スコアとそこから導か的条件法（counterfactuals）使用とその留保をれる「正しさ」が、複数の可能なシナリオごと

含みながら進行する会話なども想定しうるだろに、その切り替えの都度全体論的にしか定まらう。そこでは、会話の参加者自身が必ずしもそない）言語ゲームにおいては「正しさ」のメタの発話の「正しさ」に現実においてはコミット的調整がより重要となるだろう 16。

せず、あくまでも（非参加者としての）フィク

これに対して、マクガワンが想定している会

ショナルな仮定としてのみ通用する「正しさ」

話は、より単純化された会話に焦点を当てていにコミットすることとなる。すなわち、「正しる。すなわち、一定の固定性を持つ会話の参加さ」が通用するパターンを複数同時に保持した者として、その会話における「正しさ」の維持

上で、会話進行上の諸仮定のうち強弱を持つもや遵守にコミットしている参加者により構成さのとのみ通用させるスコア運動もまた存在するれた会話に焦点を当て、そこからの一般化としことがわかる。例えば、現実の企業における予て会話状況以外の社会的な規範統制的活動に理測に基づく行動計画を立てるためには、シミュ論を拡張しようとするものである。しかし、こレーションとして外的事情変更を組み入れた諸れはルイスが想定したスコア記録におけるごくシナリオを同時に観察しつつ、それに応じた複一部の運動の仕方を、過度に一般化したもので数のモデルを介して行動選択を適時に調整するある。スコア記録の運動が通用する場面は、マ必要があるだろう。

クガワンが想定したような、非争点的な前提をこれらに見られるように、ルイスの元々のア付与し、あるいは「より正しい」発話へと促す

イデアは、「正しさ」が参加者を統制する側面

表現ばかりではない。実際、オンライン環境のを、かなりの程度流動的なものとして捉えてお中でも SNS プラットフォーム上の表現についり、会話の参加者として「正しさ」を付与し、てこれを見れば、特定の会話が始まってさえお

互いを拘束する会話に限られない。それは公らず、いつなされたか、誰に対してなされたか、

式・非公式の種別においても異なるし、会話の誰とともになされているかのいずれもが不確定

外側にある社会実践の種類や強度においても異であるケースがほとんどであろう。マクガワンなるだろう。会話自体が公式・非公式なものにが想定している例はいずれも、何らかの（多く分離すればその「正しさ」もまた変動する上、は現実の）発話者の権威を前提に、会話参加者

会話における社会実践や「正しさ」の種類によっが共同の貢献を自ら選択的に実行する前提に立てもまた、その拘束の程度は異なる。例えば、

つものであるが、ルイスがあげている例のよう

事実を証跡する言語ゲームと当該会話上の整合に、会話全体の中で見ればそうしたコミットメ性を構築する言語ゲームとではその運動の仕方

ントが要求される会話は限定的であり、オンラ

オンライン・ヘイトスピーチ規制の法内在的制約（２）39イン空間においてはなおさらそうであるだろられる。スコア変動によって作りだされる s 規う。これらのゲームにおいては、発話時におけ範は、会話が非典型になる程度に応じて、（不る前提導入や規範設定はなされず、発話の効果

発や誤発とマクガワンならばいうだろう）別のは宙吊りにされる傾向にある。

s 規範を惹起する。s 規範が話者らの心理的要以上のように、マクガワンが提示した「s 規

素を超えた外的要素（ルールなど）も取り込み

範設定」モデルは、ルイスの提示した例のごくうる以上、そこで s 規範が定型的に通用する（行一部をカバーするものでしかない 17。さらに重為ルールをなす）ためには、その定型を形作る

要な点として、マクガワンの想定とは異なり、ルール（構成ルール）が必要であるが、法制定

スコア変動が即時的になされるとは限らない点とは異なり、この s 規範設定は後者のルールのが挙げられる。実際、ルイスは、スコア変動は確定要素を欠いている。

宙吊りや事後の阻却（defeat）が可能であり、仮に s 規範の害が実現するとしても、実現さ言語ゲームの種別ごとに異なるスコアの動きをれた s 規範は複数でありえ、その害を取り除く

記述する必要がある旨を明確に指摘していものが規制であることもまた帰結しない。つま18

た 。この点につき、「受け入れ」を、文脈をり、話し手にもまして、聞き手は分散した形で措定することで続く命題の真偽やその妥当性を成り立ちえ、設定される s 規範についてもまた決定する意味論的な水準においてではなく、そ多分岐化した別の s 規範の作用を生み出しうるの真偽や妥当性の決定基盤の変動メカニズムをのである 21。s 規範の害が一義的にではなく生明らかにするメタ言語的な水準 19 から解釈すじる以上、会話の中で微小なコストを強いる日るものが見受けられる。すなわち、「受け入れ」

常的な沈黙化や抑圧一般は、質問や訂正によっの作用により議論が継続し、スコアが徐々に固て介入可能な場合がほとんどである 22。

定されていくことで命題の真偽や妥当性（意また実践的にみても、s 規範設定の多分岐性味）を作り上げる時間的プロセスに着目する見とスコア記録の進化的特性からすれば、s 規範解である。時間的外在主義と呼ばれるこの見解

設定そのものに過度な沈黙化や抑圧を読み込むによれば、スコア変動はむしろ、時間的に後の見解は、むしろ行為原則の過重による行為選択

事象経過を取り込み、遡ってもとの発話がなし

上の「麻痺」を引き起こす 23。このように日常ていたこと（do）がなんであったのかを固定さ的な s 規範の害の多くは法的介入と結びつくと20

せていくとする 。
さて、第二の難点として、以上の理論的な問
題が、具体的な事例への適用においても s 規範

いうよりは、むしろ発話のより適切なスタイルの提案（あるいはケア・共生の理念）と強く結びつく。

の判断とその適用の判断を困難にする点が挙げ

1.3. 集積・流通する言説の害と g 規範
以上の検討からは、s 規範が構成する害のメ

40

カニズムが、より広範な g 規範の内容や参与者

東京大学大学院情報学環紀要

情報学研究

№106

の属性に依存していることがわかる。そしてオ実現形態をもち、その選択にあたっても、メディ

ンライン空間においては、g 規範の維持が、特ア・技術の変化に即したサービスの実現はもと

定の情報流通環境においてアクセス可能な情報よりとして、利用者の表現の自由、プライバの正確性やその偏り、あるいはそうした言説状

シー、通信の秘密等の法的権利・利益を支える

況への介入（修正や追加等）や対抗手段選択と役割をも担うこととなる。この結果、対応の実強い関連を持つことがわかる。実際、アル空間

現手法としても事前のアーキテクチャ・事後ののそれにおいて、「慣習的な言葉と文章の意味判断、そのプロセスとしての審査のありよう 27の核心」が、伝達の瞬間、解釈の余地なく伝わを含む直接的対応に加え、（事業者ではない）

る一方で、オンライン上では、まさしくそのヘ個々の訴訟における解決に向けられた間接的対

イトスピーチが作り出す敵対的な空気と距離を応まで、幅を持つこととなる。

持っているのであり、「批判者として断固としこの特性から期待される法の役割もまた、表た姿勢で立ち向か」わせる慣習的な力が機能し現に関与する事業者に直接に行為を義務付け、ているとは言い難い 24。

規律するとことには求められない 28。萎縮効果

このように、オンライン空間における個々の及び同調圧力と強く結びつく刑事的規律と市場発話については、この環境がもたらす複合性のにおけるソフトロー形成・秩序形成を促す市場

上で、表現の効果を測る必要がある。ここで、法的規律との違いを踏まえた対応が求められる

個別的発話が流通するオンライン空間自体の特のであり、事業者の取り組みにおけるアカウン

性として近時論じられている、「情報の他律的タビリティを確保し、適正化するべく（政府言摂取」やそこからの偏向の助長は、s 規範がオ

論 と し て の 反 差 別 の 保 障 は も と よ り、 議 論

ンライン空間で働くメカニズムの一つを示してフォーラム提供のための共同規制枠組みの組成

いる 25。

等を含む）「先制的カウンタースピーチ」を通個々の発話が集積し、流通する環境の改善（媒じた規範回復のための諸措置の配置が求められ

体ごとのインセンティブ設計／訂正手続き設る。すなわち、ここでは s 規範の阻却可能性と計）と関わる上記の指摘は、オンライン空間とその期待、g 規範の平等化志向の発展とその期

リアル空間とにおける差異としての主体の重畳

待とが、個別的状況を超えたアクターの組成と性と、対応の多層的構造とに着目する。これに配置についての集合的決定と強く関連している

よれば個々の表現の持つ効力は、当該表現が流ものといえよう。

通する技術的環境（広義のアーキテクチャ）及

マクガワンが念頭に置いていたように、むしびそれを担う主体（プロバイダ等）に依存するろ会話が s 規範を受け入れて進み、訂正が不能

26こととなる 。ここから発話類型としての違法・になる状態というのは、s 規範違反を受け入れ

有害情報への対応にあたっても、削除のみならている蓋然性の高い状態が継続し、訂正がなさ

ず、警告や（一時的）閲覧制限、情報開示、フィれないままに関係者が退出する場面を想定してルタリング、デプラットフォーミング等、様々いるように思われる。しかし、オンライン空間

オンライン・ヘイトスピーチ規制の法内在的制約（２）41の場合には、スコア記録を含めたやりとりをそめに採用しうる手段として、そのスコアボードの訂正過程をも含めて記録化することは、（リおよびスコア記録の運動の仕方においてなすこ

アル空間における個別的会話とは異なり）アクとが、直接的な規制作用との比較の俎上に載るターの幅に照らしても、また技術的にも可能でこととなる。

ある。ここから、発話の悪しき効力の限定のた

２、カウンタースピーチの発語内行為としての側面
2.1 なされた発話内行為の効力の取消しと、取消し自体の害の構成
以上の通り、悪しき s 規範設定が働く場面は着性を十分に考慮に入れておらず、またカウン

限定的に特定される。以下では、仮に悪しき s

タースピーチによってほぼ争いのない争点をあ規範設定がなされた場合において、いかなる阻たかも「現に争われている」ものとして顕在化

却メカニズムが働くか、より具体的には事後のさせてしまう点がしばしば問題視されてきた。

取 消 し（undoing） の 諸 例 に つ い て 検 討 す る。

各種のヘイトスピーチについても、特定集団をこれらの取消し作用は、発話の事後になされる

その属性に基づき貶める表現が典型的にはなさ

以上は s 規範設定の因果的な発語媒介行為の効れる以上、その属性についての認識違いや評価力を遡って無かったことにするのではなく、典上の誤りを指摘することは、却ってそうした論型的にはその基礎にあった発話内行為の効力を点が争われている最中にあるかのように提示

その訂正過程の中で（スコアとして記録しつし、記録してしまうというわけである。さらにつ）取り消すこととなる。つまり、発話が意図

カウンタースピーチが功を奏するためには、元的あるいは意図せずにもたらすことが想定されの発話が真偽を争いうる陳述の形式をとっておていた発話内行為の効力について、聞き手側のり、誠実にその真偽を巡って論争を行い、論争応答によってその成否を変動させうる対抗的なの結果として自身の信念と陳述を撤回する態度

発話内行為として捉えられる。ルイスの枠組みを共有しているという、熟議の空間が開かれてに従えば、事後に発話のスコアを変動させ、元々いることを前提としている。しかし、ヘイトスの発話が足を置いていた基礎を失わせること

ピーチを含む有害な発話の多くについてはこので、新たなスコアとして記録するわけである。

双方が欠けることが多く、そのためにカウン

さて、最も想定しやすい取消しの例は、「異タースピーチの機能が限定的である点もまた指議」の形態をとる。カウンタースピーチと呼ば摘されてきたところである。

れてきた典型も、有害な発話の内容に対して反

この点に対応するため、Langton による「ブ論し、その妥当性を疑わしいものへと変じるこロッキング」戦略のように、元の発話が暗黙のとを企図した発話である。しかし既に見た通うちに伝えていること（implicit content）を明り、カウンタースピーチはヘイトスピーチの粘示化し、発話者に帰属させることで元の発話内

42

東京大学大学院情報学環紀要

情報学研究

№106

行為の効力を失わせる戦略がある 29。言い換え元の発話の意図やその発話内効力の認識を開示

れば、争点を巡って争うのではなく、争点形成

するように、s 規範が持つ「受け入れ」を介し自体の悪しき意図や悪しき発話の意味を明るみて迫られる。通常、この自身の発話の潜在的差に出し、その弁明を要求する戦略である。確か

別性を改めて明示する発話をなすこと（rejoin）にこの戦略は、元々の有害な発話が真偽を問いは避ける圧力が働くことから、コメントの潜在づらい発話であっても、その前提を真偽を問い的差別性を阻却する介入としての効力を持つこうる命題として提示することで、発話者を議論ととなる。Caponetto はこれをあたかも発話者の場に呼び出す点において有用性を持つ。これの発話が実際よりも偏見に満ちたものでないかに発して熟議の場が開き、新たな議論が開かれのように振る舞う「振り」の一形態とし、それることもあるだろう。しかし、発話者の暗黙のにより、より偏見に満ちたものでない改善され内容を明らかにすることは、発話者の「顔」をた内容をスコアに入れ込み、s 規範に導入する

潰すことに繋がりやすく、それゆえに発話者に寄与を果たすものとして提示している。

よるはぐらかしや意見への固執を生み出す点に

この「辻褄合わせ」戦略は（リアル空間におおいて、対応として十分とは言えないことも指いてもオンライン空間においても）相当に有効摘されてきた。

となる場面が見込まれる。ただし、この言い繕

こうした問題に対応する取消しの形態としてい自体が発話者の主体性を捻じ曲げる歪曲

Caponetto は、既になされた発話に対して受け（distortion）の害を構成しており、またよいよ

手側が曲げて解釈することで、元の発話が設定

うに言い繕う側が先んじて元の発話内行為の持した s 規範を別の形に修正する「辻褄合わせつ悪性を一方的に認定してしまう点において新bending」戦略を提示している 。言い換えれば、たな害を構成する点も指摘されている。すなわ

この戦略は暗黙のうちに害をなす発話に対しち、受話者が与えた解釈を元の発話者に暫定的て、より平等規範に沿ったものにする前提に叶にせよ帰属させ、元の発話者が批准 / 正当化のうように曲げて解釈し、発話者に対して再提示

矢面に立つことを求める点においては、状況的することで、元の発話者に、発話の前提をなしにかなり偏見や差別的な意図が明らかなケースていた偏見が聴衆に受け容れられないかもしれを超えて「辻褄合わせ」が行使されることは、ないという感覚を与える対抗的発話の形態であ除去しようとした害以上の別の害を生み出しうる。具体的には、元の発話者が偏見に基づいてる。とりわけ、オンライン空間においては、発発話したのではなく、そうした発話への怒りの話がなされた場合においてそれが誰に対してみ表明であるという前提や、そうした発話がなさられる状態に置かれているかは必ずしも明らかれている事実についての論評であるという前提ではなく、対話相手ではなく対話を傍観していを新たに導入することで、元の発話者に更なるるものに向けた意図やアピールの形態をとって（多くは平等規範に沿うだろう）発話を促す点なされる場合もしばしばある。この場合には、に特徴がある。この促しに対し、元の発話者は、「辻褄合わせ」戦略自体が単なる誤読に陥るこ30

オンライン・ヘイトスピーチ規制の法内在的制約（２）43ともあれば、攻撃の暗黙的指示を因果的に惹起元の発話者にとっては、一定の応答がありうる

することも問題とされるだろう。

としても、続く議論からの撤退を許容し、発話こうした点を踏まえて、オンライン空間につ者を自身の意図の開陳や「辻褄合わせ」による

いては「非決定のままの途絶」という戦略もま

新たな前提への取込みの圧力から開放する戦略

た有用なものとして提示されている 31。これは、として現れる 32。他と同様、この戦略も現に言

単なる沈黙によって消極的受容を表現してしま

われたこと（saying）を除去するのではなく、うことや、逆に明確な拒否・軽蔑の意思などを現に言われたことの意味内容を確定することな伝達する雄弁な（eloquent）沈黙によって s 規

く宙吊りにする形で、その悪しき発話の効力を範に対抗することではなく、元の発話がその発減退・中立化させるものである 33。

話の力を持たなかった環境を作出することをそ以上のような発話内行為の s 規範設定を、介の内容とする。実装例は多岐にわたるものと想入とその記録によって個別的に限定づける戦略

定されるが、少なくとも対抗者にとっては、公のいくつかを組み合わせ、またその技術的実装

然と立ち向かう負担を回避するとともに、元のを幅を持った環境の中で達成することが、規制

発話への一定の評価を会話進行における「重み主体に対しては求められうるだろう 34。

付け」として表示・記録する戦略として現れ、

2.2 先制的カウンタースピーチと g 規範設定
これに加えて、（s 規範がその基礎を置く）g

時間的連続体としての言説集合の一部であると規範を改善するカウンタースピーチの組成もまの前提を持つ。曰く、個別的な s 規範設定やそた 戦 略 と し て 提 案 さ れ て い る。 例 え ばれに伴うスコア変動自体を問題にするのとは異Lepoutre は、設定された s 規範に対する各種なり、通時的に見た場合のスコア変動範囲を限の「取り消し」をなすネガティブカウンタース

定したり、事後的にスコアを立て直したり、蓄ピーチに対して、より平等規範に沿ったポジ

積的なスコア割り当て自体を議論に乗せたりす

ティブカウンタースピーチが「粘着性」に強いることが、カウンタースピーチが機能する g 規

ことを強調している。その理由として、「粘着範設定と過剰な s 規範制限のためには重要とな性」は g 規範こそが助長する特性であり、発話る、とする。これは、「辻褄合わせ」戦略でもが呼び起こす g 規範のうちの一つである平等規

みたように、対抗者の意図にかかわらず s 規範

範に沿った形で議論環境が整備されていること

設定それ自体が議論封殺・議論拒絶を含む「有が、s 規範の通用範囲を限定することにつなが害なカウンタースピーチ harmful counterspeech」

る点をあげている。

を 構 成 し う る 以 上、 避 け て 通 れ な い 問 題 と

このような Lepoutre の戦略は、カウンターなる。

スピーチは元々通時的（diachronic）なもので元々、カウンタースピーチの効果は、悪しきあり、個別的 s 規範設定の前後で利用される、発話の持つ危害を除去すること自体ではなく、

44

東京大学大学院情報学環紀要

情報学研究

№106

その際の平等を現実において達成することに恣意的に運用する g 規範が通用する環境においあった。このことに、Lepoutre の戦略は向けては十分に機能しないのである。対抗者に対すられている。すなわち、カウンタースピーチは、る「（悪しき）ヘイト認定」との水掛け論やそ公的な発話の空間において、平等な発話者としれに基づくキャンセル文化の問題を回避する戦ての地位と尊重を割り当てているかを問題にす略としても、先制的カウンタースピーチの有用るのであり、s 規範やその取消しにおいて参照

性を認めうる。

される g 規範が歪んでいる場合や、その歪みを2.3 オンライン上の s 規範設定 /g 規範設定とその限界

私人・DPF・国家の役割

以上で見てきたように、個別的な s 規範設定

立場を明示する発話といった事後の取組み過程

は日常のどこにおいてもなされうる。その悪さにおいてなされるのであり、対抗者が専断的には、続く発話を制限することにより、発話者と発話の悪しき規範設定を認定することもまた、しての平等な地位を奪い、あるいは発話の信用

新たな発話者の権威を設定することとなろう。

性や価値を低め、さらには発話者への議論封つまり、しばしば主張される「より多くの発話

殺・議論拒絶をももたらしうる点にあることもmore speech」としてのカウンタースピーチの見てきた。しかし、こうした悪しき効力は、発重要性は、単に「批判者として断固とした姿勢

話自体が一般的にもちうる効力でもあり、発話で立ち向かわせる」しばしば過重なものともな内容が一見してもつ内容によって、その効力のりうる負担としてではなく、上述してきた s 規

発動の有無が変化するわけではない。上記の範設定の普遍性およびその悪さの認定をめぐる

Caponetto や Leportre の問題提起は、s 規範あ

事後的な評価の困難から要請される、通時的なるいはそれを支える g 規範における効力の限定

s 規範の生成・解釈・確定プロセスとして理解

や、より平等規範に沿った効力の増進にこそすることができるのである 35。

あった。

さて、以上を踏まえたオンライン空間上におさらに、特定の発話がいかなる s 規範の内容

ける s 規範設定および g 規範設定についての介を持っているかを認定するにあたっては、事前入について、その手法面と主体面から若干の展

であれ事後であれ、固有の困難があることも確望を示しうる。すでに見たように、s 規範設定

認してきた。発話の空間的・コミュニケーショの観点から見たリアル空間とオンライン空間とン依存性に鑑みれば、その認定自体が持ちうるの重要な違いは、s 規範設定の変化を記録する「悪さ」を加味して、続く発話のパフォーマン

スコアボード自体が物質的形態をとりうる一方

スを評価しうる状態を確保し、広く合意されたで、プラットフォームの構築・管理に依存する

手続きの上でその評価・改訂を実践していく他点にある。この点を捉え、例えばデジタル・プ

はない。しかし、その事後的評価は発話をめぐ

ラットフォームにおける対応として発話流通環る弁明や「言い繕い」、あるいは改めて自身の境を通じたスコア変動を記録・可視化するスコオンライン・ヘイトスピーチ規制の法内在的制約（２）45アボード構築・管理作業への従事を要求するこ

時点の瞬間まで介入が原理的にできないとされとは、より多くの発話を通じた個別的 s 規範のてきたのに対し、オンライン空間における発話

修正を機能不全から救い出す対応として理解では、発話がなされる過程への介入を技術的に可きるだろう。

能とする。この原理的な違いは（可能ゆえに）とりわけオンライン空間上においては、発話介入を要請し、また介入を正当化するのではな

内行為（illocutionary）としての s 規範設定をく、むしろ介入態様の精緻化を要請し、それになす（do）前に、その発話（locutionary）が発よりむしろ続く発話内行為としての s 規範の内される時点（say）において、捕捉やそれを通容を確定させるオプションを媒介者たる DPF

じた介入が技術的に可能である点が特徴的であに対して与えることとなるだろう 36。

る。すなわち、リアル空間における発話が発話

３、進行中の規範の中断・変更と、On/Off Record を担う新たな規制者
本稿で見てきた「辻褄合わせ bending」戦略「ジェンダーの観念は子どもがこの世に誕生すや「非決定」戦略は、発話の効力を規範適合的る前に形作られ」、我々もまた常に「進行中のなものとして修正しつつ維持する可塑性を有しジェンダー規範の場の中に存在する」以上、「そていた。他方、この規範適合性そのものもまたの割り当てに対する転覆や断絶が起こるとして不断に批判に晒されることで、その規範の権威も、それは権力の場の中で、歴史的に形成されを解体し、再構築する余地に開かれていなけれた制約の場面の中での闘いを通して起こる」こばならない。規範適合性の要求自体がもたらすとにバトラーは注意を促している。これによ

抑圧現象について最後に若干付言することで、り、あえて適切性条件を欠く主張をなすことが結びに代えよう。

もつ発話内効力と、その規範上の転覆が持つ政

さて、ジュディス・バトラーはある箇所で、治的意義を明らかにしようとしたものである。

一見するとその時点においては（発話上の権威先行する、進行中の（確定困難な）歴史性や権など）適切性条件を欠く主張（assertion）を敢力、システムの複数性を踏まえ、発話上の権威えて行使する積極的な意義について述べていを逸脱する形で初めて議論の中に入ることのでる 。曰く、現に発話をすることによってそのきる一群の観念が存在する。これは被抑圧の歴失敗を晒し、失敗の是正を求め、将来の道筋を史性や権力の不均衡等をその要素とするヘイト

規 定（prescribe） す る。 そ う す る こ と で、 自スピーチについても、当てはまるだろう。本稿

己承認的な（self-authorizing）パフォーマティ

で規範設定について論じてきた箇所の語彙に引ブがなしうるとする。

きつければ、ここでの問題提起は、発話の適切

37

この発言は、ジェンダーの割り当てをめぐる性という現在の規範適合性のみに議論を基礎付問題を巡りなされたものであるが、とりわけけることで、特定の観念を議論可能な状態から46

東京大学大学院情報学環紀要

情報学研究

№106

遠ざけてしまう営為の粘着性に向けられている者と共有することである 39。抹消に抵抗する条ものと解しうる。

件として抹消の記録があり、記録の可能性こそ以上の紹介は、どの主体がその害を認定するが敵対者との共有の基盤をなす。しかし実際の権限（あるいはマクガワンの言い方を借りればにはこの解釈が「認定」へとスライドする諸局

発話上の権威）をもつとされるかが固定される面を観察すれば、この「攻撃」認定がどの対象状況への警句として読むことができる。歴史的にかかり、どの対象にかからないのかの帰趨が背景や言説上の蓄積を背景として、特定の語やかなりの程度、当該発話が置かれた具体的な文文の利用が「奪取」されることで、対抗的発話

脈と時点に依存することがわかるだろう。論争

が「規範適合的に」封殺され、無化され、忘却的な語や文の意味内容について争われつつ、自され、また書き換えられる種々の「抹消」は、らの言葉の用法を通用させようとする（メタ言

歴史を通じて稀ではなかった。例えば「「ユダ語的）交渉が日々なされている SNS 上での議ヤ人の邪悪な憎悪が世界中を戦争、困窮、苦難論状況は、その議論環境の構築に寄与する介入に陥れた」と言う文は、ナチス側の人々に向け形態の模索を迫るものである 40。

られた「プロパガンダ」であるが、同じ文をユ

思えば、こうした濫用的言語使用による抑圧

ダヤ人が見つけたら「攻撃」になる」とはランについて、先ほど言及したジュディス・バトラー

グトンのよく知られたフレーズであるが、もちはインタビュー中で、自身のイスラエル国家批

ろんこの受領者相関的な分析は、受領者の側に判が「ハマス支持的」なものとして誤読される属する（と称する）者が「見つけた」瞬間にお解釈環境について語ると共に、そうした発話がいて一方的に文の解釈を決定する権限を得る事「反ユダヤ」的なものとして一方的に規制の対態を示しているのではない（本稿の検討に従え象となる欧米諸国の一部における法執行環境自ば、それもまた「抹消」の一形態となる）38。

体に先取り的に憂慮を示していた。「レトリッ

むしろ重要な問題は、真偽の問いづらい「ユダクを駆使し、メディアを通じて、パレスチナをヤ人の邪悪な憎悪が世界中を戦争、困窮、苦難

テロリズムと同一視し、全てのパレスチナ人をに陥れた」との曖昧な文が、その発話上の効力

テロリスト・野蛮さ・獣性と同一視する。そのを受領者相関的に拡散させつつ、同時に機会主

際、同一視する人たちの想像の中には（パレス

義的に否認可能な仕方で使えてしまう発話が果チナの）市民は出てこない。まさにその市民にたす規範設定の捉え難さと、この捉え難さを含向けて凶行を現に働いているというのに」41。

めての対抗言論の新たな形態の組成と促進にこあるユダヤ人の一人によりなされたこの発話そある。

自体が、本章執筆時現在の一部の国において「ハ重要なのは、上記の文が「攻撃」としての解マス支持的」なものとして誤読・拡散され、あ釈がなしうるものとして抵抗が可能な文である

るいは規制の対象となるのだという脅しがかけことを正当化するものであり、同時にそれ以上られていることを、文字通りオンライン空間にのものではないことを、一見したところの敵対

おけるスコアボードに「記録」する必要がある。

オンライン・ヘイトスピーチ規制の法内在的制約（２）47しかし、この「記録」及びそれへのアクセス可

や状況を含めてこそ、対抗的アプローチとして能性や「転覆」を含む介入可能性が、いずれもの「スコア記録」の実践と新たな規制の展望が

新たな規制者としてのプラットフォームの振る

開かれるはずである。別稿を期しつつ、結びに舞いに依存している事態もまた、上記の抹消や代える 42。

攻撃、その認定をめぐる法執行環境を変動させざるをえない。この歪な解釈環境と均等を逸し以上た法執行環境自体が持つ歴史的に特異的な時点

研究助成
本研究は JSPS 科研費 23K12354 の助成を受けたものです。

註1

総体としてのヘイトクライム・ヘイトスピーチへの規制文脈で、何らかの「スピーチ」の特性に焦点化することには問題がある。J.
L. オースティン (1991)『オースティン哲学論文集』（坂本百大 監訳）398-408 頁で「スピーチなしの遂行」が論じられていたように、
最も苛烈な現実の排除や貶めは、暴力がそうであるように、発話なしにもなされるためである。あるいは、いわゆる「指令語」（G.
ドゥルーズ）による属性付与・変更がそうであるように、発話内容というよりは、ある種の力と組み合わされた発話による関係変化にこそ、発話がもたらす害を見てとることも可能だろう。その場合における規制の構築・評価にあたっては、上記の政治的・社会的な権力をも動員する「力」の分析が不可欠であり、ここではオンライン空間のバリエーションに応じた検討が不可欠となる。さらにオンライン空間の種別によっても、その発話の持つ効力がバリエーションを持つこととなることにも留意が必要である。個々のオンライン・ヘイトスピーチの持つ効力は、リアルな対面状況でなされるヘイトスピーチの効力とは異なる一方で、集積されるオンライン・ヘイトスピーチが言説の総体としてもつ効力は、リアルな対面状況でなされるそれとは別の意
味で異なりうるだろう。

	

なお以上の指摘が、現実の排除や貶めの害を軽視したり、その害を煙に巻くためのものになることは避けねばならない。特に、特定の社会的地位や組織内の役割を担う者がなす発話など、リアル空間における発話上の権威がオンライン空間に意図的・明示的に持ち込まれる場面については、害の分析とは独立に、その役割に基づく責任が生じることは明らかである。ヘレン・ンゴ（2023）『人種差別の習慣 : 人種化された身体の現象学』では、①住み込みとしての習慣（34 − 36 頁）：社会的・歴史的に位置付けられた差別実践の身体的次元と、自己と関わりを持つ人種差別・人種化の経験的次元の双方を踏まえた分析（45 頁）がなされており、参考になる。

2

本稿での検討が現実社会においてもつインプリケーションを、以下の通り取りまとめておく。本章校正中の 2024 年 1 月現在における欧州各国における親パレスチナデモの法的な取締まりや、攻撃・虐殺を正当化するための偽情報（あるいは攻撃対象についての不確かな情報等）の拡散事例を念頭におけば、「除去手段としての規制とその濫用のおそれに伴う社会的コスト」を検討する必要性は、実践的にも明らかである。一見したところの差別的発話を除去するだけでは、差別的慣行やその基盤的規範は維持されてしまうことを、上記の自体は示している。本稿が以下で検討していくように、対抗言論が現になされることで議論が開始され、議論によるスコア（記録）が蓄積されることがないところでは、より正確な根拠に基づく主張の蓄積も構造的な平等の実現も継続しえない。ここから、情報の発信・拡散（流通）・蓄積の「ゲート」をなすソーシャル・メディア・プラッ
トフォームが介入することが期待される対象も、第一義的にはこの適切なスコア（記録）の実現に資する情報環境の改善にこそ存するだろう。

	

特に 2024 年 1 月現在においても、イスラエルによるガザへの攻撃が継続している点に、これを見ることができる。その圧倒的な武力行使により国際法違反（ジェノサイド罪）も問われているこの状況の中、また軍人 - 民間人の別を問わない虐殺を正当化する数々の発話が高官において飛び交う中にあって（例えばイスラエル国防大臣による「パレスチナ・ハマスの支持者は、たとえ武器を持たずスーツを着ている人であっても全員死ぬべきだ」発言など）、同時に反ユダヤ言説に至りうるデモ等がフラン

48

東京大学大学院情報学環紀要

情報学研究

№106

ス等で禁じられ、また米国ハーバード大の学長が反ユダヤ的であるという理由で辞職を迫られるなど、むしろヘイトスピーチ
規制それ自体が政治的立場に応じて不均衡に用いられている状況こそ、総体としてのヘイトクライム・ヘイトスピーチへの規制文脈では問題とする必要がある。また戦争映像が残虐であるという理由で動画共有プラットフォームから削除されることによる戦争自体からの遠ざけの問題はロシア - ウクライナ戦争においてよく知られることとなったが、現下のイスラエルによる攻撃・虐殺においても偽情報に基づく相手方への「非人間化」と情動を喚起するための情報戦は加速している。これは所謂「言語的ハイジャック」（後述する Anderson(2020) を参照）と同様に、ヘイトスピーチの認定が恣意化されることで、重要なクレイムを含む harmful counter-speech をも規制対象としてしまう問題と相同的である。ヘイトスピーチの認定と、それに基づく指弾や「キャンセル」が、対象者についてもその程度・態様についても恣意的に運用されえ、また偶然的・状況依存的なもの
として事実上は通用してしまいうる（そしてそのために動員可能な物的資源やさらには解釈資源まで不均等である）ことから、
むしろ「ヘイトスピーチである」という糾弾にさらされた際の対抗表現の特質をよく検討する必要が生じる。
3

もちろん、この時点を認定上の困難や政策的考慮の下で前倒しするものとして、抽象的危険犯がある。例えば、言葉を用いた脅迫が成立する場合、結果として現実に畏怖を生じさせなくとも、その危険において罰される。脅迫を含む犯罪類型（恐喝罪、強要罪など）も同様であり、結果として現実の畏怖や金員等交付がなくとも、その未遂が罰されることになる。侮蔑、名誉毀損、脅迫等はいずれも個人的な法益としての危惧感の除去にその可罰根拠を持つ。ただし、これらはあくまでも発話が引き起こす（cause）危険の創出時点を前倒しする規定であり、後述するように発話がその瞬間において成している（do）害悪の捉え方と
は異なる。

4

オンラインヘイトスピーチを取り巻くより広いオンライン侮蔑の現象に目を転じると、オンライン空間固有の性質に着目して、別立ての規制（本邦の 2021 年の侮辱罪改正のみならず、欧州での改正動向としての結果的加重犯としての致死罪導入も注目に値する。）を要求する見解がある。これをヘイトスピーチと比較することは有益かもしれない。例えば深町晋也「オンラインハ
ラスメントの刑法的規律──侮辱罪の改正動向を踏まえて」（2021）法学セミナー 66 (12) では、オンライン空間における迷惑・
嫌がらせ行為の持つ特性として、①匿名性、②高度の流通性、③永続性、④（被害者からした）回避困難性があげられている。
これらの性質は、対象・目的・態様においてより限定的なオンライン上のヘイトスピーチにも当てはまる。しかし下記の理由から、
これら特性が、直ちに同表現による悪影響を裏付けるわけではない。
第一に、①匿名性とされる特性は、第一に望ましい表現も望ましくない表現も助長する限りにおける道具的な価値を示唆するにとどまる。事実に反する発話一般が内在的な害をもたらすのではないように、匿名性そのものが内在的な悪さを生じさせるのではない。匿名的だからこそ、自身の社会的人格・社会的属性に囚われることなく発話ができるというのは、社会的人格・社会的属性が付与されていたからこそ抑えられていた「不適切」な発話の抑制を効かなくさせるリスクを生じさせるとともに、市民社会において重要な価値である立場にとらわれない発話を言論空間に充溢させる価値をも持つだろう。匿名性の害はこのように外在的にのみ把握されうるのであり、概念の分析によって把握されるわけではない。第二に、そもそもここで議論されているオンライン上の匿名性とは、技術的に見れば仮名性に過ぎず、また実践的にも追跡可能である。いわば後の異議時点を想定した「予定的証拠」取得が原理的に存在する以上、あくまでも開示のための手続コストを負担しない限り匿名コミュニケー
ションという約束事の下にある、という想定に過ぎない。反対に、このコスト負担が過重になることで実質的な反論を塞ぐ（モブ集団が大量に妨害的な DM を送る等）などの条件の下において、匿名性に由来する特性が規制根拠となりうることが示唆されるに留まるだろう。あるいは、明示的であれ黙示的であれ（調べればすぐに特定可能であるという意味で）「顕名」で活動せざるをえない研究者の発言のうち、現実の所属機関における職務と強く結びつくわけではない活動領域における発話を取り上げ、組織外から所属の組織内規範を用いて「キャンセル」を働きかけることは、（組織内規範が私生活上の品位の維持や全人格的評価にまで及び、またその特定のための適正な手続きが準備されているなどの例外的な場面でない限り）上記の特性からすれば過剰な制裁と評価されるべきだろう。前稿の「キャンセル」についての箇所を参照せよ。
第二に、②高度の流通性及び③永続性とされる特性についてみよう。例えば、プライバシー侵害や「粘着」につながる場面においては、情報流通のスピードや一旦知られた後における回復の困難という帰結から見て、検索・蓄積環境に対してもたらす影響が甚大であることは疑いない。しかし、その他の表現については中立的である。表現の流通一般についてみれば、オンラ
イン上ではむしろ対抗言論を含む発話群もまた環境的には等しく流通・永続する効果を持つ以上、集団的なヘイトデモなどの対面状況とは異なる環境およびその効果をもつ。リアル空間におけるヘイトデモは実行側の都合でなされ、カウンターデモはその探索・認識・組成・実施に至るコストを非対称な形で強いられる一方で、オンライン空間におけるカウンター発話（及びカウンター発話を支持する発話群）におけるコストは対称的である。
最後に、④回避困難性についても、媒体特性上、当該表現への一瞥の後に「見ないで済ませる」ことも通常は容易であり、まオンライン・ヘイトスピーチ規制の法内在的制約（２）49た対面に比すれば（双方向のコミュニケーションを遮断し）自らのイニシアティヴで当該表現に多面的に向き合うことも（あるいは全く向き合わないことも）一般的には可能である。通学のための公共交通機関や大学キャンパス内でなされるヘイトス
ピーチは（大学に通学するとの意思と、公平な研究・教育価値の受領を毀損するために）通学している以上は回避困難だが、送り付けられた個別の意見を見たくなければ、いわばゴミ箱に捨てるかブロックすることができる。
こ のように、オンライン上の特性に由来する害の限定性と害の拡張性の両義性を踏まえた分析をなすものとして、Michael
R. Barnes (2023)“Who Do You Speak For? And How? Online Abuse as Collective Subordinating Speech Acts”, Journal of
Ethics and Social Philosophy 25 (2), 251–281 も参照せよ。
5

M. McGowan(2019) Just Words: On Speech and Hidden Harm, Oxford の第 2 章および同書についてのシンポジウムを踏まえた
McGowan (2022)”Response to Critics”Australasian Philosophical Review 5 (2): 211-220 に詳しい。

6

この点について、スコア変動の原因の全てが「受け入れ」にあるかどうかは問わない。なお、後述するように、少なくともオンライン空間においては発語内行為の文脈依存性から、オースティンの発語行為・発語内行為についての（サールではなく）ストローソン流の解釈をとった上で発語内行為の脆弱性を認める方が有益であろう。

7

こ の 拡 張 へ の 批 判 と し て、Caroline West(2022), Does Public Racist Speech Constitute Hostile Discrimination? Commentson McGowan, Australasian Philosophical Review 5/2: 179–88. 特 に p.183 を 参 照 せ よ。West の 批 判 へ の 再 反 論 と し て、
McGowan(2022) はその第 3 節 [The Way Sneaky Norm Enactment Generalizes] で、会話における受け入れではなく、会話全体を統制する g 規範によって卑劣な規範が措定されると主張する。しかし、これはほとんど基底となる g 規範が（会話の真偽や妥当性の変化に貢献しないスコア変更であっても、貢献するスコア変更であっても）個別的状況ごとの s 規範を設定すると主張
するにとどまり、その「望ましくなさ」の主張にあたってはほぼ無内容である。さらにこの見解は s 規範と g 規範の区分を無効化させており、理論的資源として活用できるところを失ってしまうだろう。後述する Waldron（2022）はこれを規範設定の遍在性に由来する「トートロジー」と呼ぶとともに、また s 規範設定と g 規範の適用を McGowan が曖昧する点について、同様の批判を行っている。

8

マクガワンの提案を発展させる形で、R. Simpson（2022）”The Conversational Character of Oppression”及び同氏の 2023 年
来日時の報告“Oppressive Speech and Attunement”は抑圧現象について論じている。

9

この点を Simpson(2023) は引き継いで「優しいいじめ」現象として論じている。発話が前提などの調整を要する度ごとに、ある
いはそのコストの非対称を強いる度ごとに、s 規範設定の害は構成されるのである。

10

	McGowan（2022）のいう「公共空間の社会的相互作用を支配する g 規範を誘発することによって s 規範を設定する」と、そのウォルドロンへの応答（2022）を参照せよ。なお、Simpson(2023) も併せて参照せよ。

11	Max Lepoutre の近時の一連の著作がこの点を取り扱っている。特に M. Lepoutre (2019)“Can‘More Speech’Counter Ignorant
Speech?”Journal of Ethics and Social Philosophy, 16. (3) 及び M. Lepoutre (2023)“Hateful Counterspeech”, Ethical Theory
and Moral Practice 26, 533–554 を参照せよ。また永石尚也（2024）「オンライン上のヘイトスピーチと法的介入のグラデーショ
ン

ソーシャル・メディア・プラットフォームとの協働から」『ヘイトスピーチの何が問題なのか』（法政大学出版局）において論じたように、悪しき規範設定メカニズムの解明は、規範設定行為の悪性ゆえの排除を直接には正当化しない。悪しき s 規
範に対して g 規範で対抗することもできるし、s 規範設定の立て直しプロセスによって対抗することもできる。この点について、第二節で後述する。
12

	McGowan（2022）の第 3 節 [ 卑劣な規範の設定が一般化する方法 ] を参照せよ。例えばムスリム排除的な発話を考えてみればよい。
当該発話自体が会話における敵対性の増加と証言信用度の低下への「おそれ」を生じさせ、「自らはムスリムだがそうは思わない」、「自分はムスリムではないが、そうは思わない」と信条を明らかにしつつ反論することを、自己開示の負担と安全性の懸念から躊躇させるかもしれない。結果として、その躊躇により取り巻きと共に暗黙のうちに卑劣な s 規範の設定を行うことになるかもしれない。
あるいは、明示的に宗教的信条を用いたカテゴライズによって実際には特定の出自を持つ集団を名指す語彙を仮構し、思考の錯覚を引き起こしている点に問題を見ることもできる。前稿でも参照したハーマン・カペレン他『バッドランゲージ』第 4 章
第 3 節では「人種」の概念が生物学的事実と社会的事実を混同させる語彙として提示されるが、「信条」の概念も社会的事実内部における類似の混同を引き起こす語彙として用いられうる。すなわち、会話における記述上の真偽を与えるスコアを、宗教的信条という（それまでは会話との関連性の薄い）要素に焦点化した形へと変更させることになる点にも、問題を見てとることができるかもしれない。

13	なお、McGowan(2019) が典型的なものとして提示する例であり、しばしば議論を呼ぶ例として、裁判例 Bond v. Michael's

50

東京大学大学院情報学環紀要

情報学研究

№106

Family Restaurant(1994) を元に考案された仮想ケースがある。店主を含む店内の会話における黒人蔑視表現が問題となった仮想ケースから、McGowan は s 規範設定がもたらす問題を定式化している。具体的には、あるレストランにおいて（店主でも店員でもない）一白人女性客が、別の客であるアフリカ系アメリカ人家族に対して、望みの席に座られたことの腹いせに、「あれは私たちの席だ」、「家に帰れ、もしも家があるならね」、「福祉依存でどうしようもない人間のクズ野郎」と言い放つ事例である。
マクガワンによれば、このケースの発話は次のように分析される。すなわち、当該会話において許された発話や真となる発話を措定する s 規範が、発話ごとに生成され、続く会話を統制する。例えば対面状況でなされた黒人排除を企図したヘイトスピー
チは、相手や周囲がそれを撥ねつけたり、抗弁したりする前の発話の瞬間において、黒人排除的な s 規範の設定をなす、といった具合である。
14

	D.Lewis(1979)“Scorekeeping in Language games”を参照せよ。特に構成的規則と統制的規則がダイナミックに変動する状況を記述するアイデアとして「スコア記録（scorekeeping）」が導入されていることが、本稿における McGowan との関係では重要となる。なぜなら、McGowan が会話における「受け入れ」を（例外は認めつつも）争い難い許容可能な事実 (permissibility)の構築過程として記述しているのに対し、Lewis の元の論文においては会話における「受け入れ」はスコア運動の進化的特性の現れに過ぎず、許容可能な事実が設定されるか否かは会話にとっては（その運動の外にある参加者相互の力関係やゲーム自体の性質に依存するために）外在的なものとして捉えているためである。

15

	これらはいずれも D. ルイスが挙げた例である。例えば、「平ら」を含む曖昧な文について考えてみる。「平ら」は程度や何らかの適用場面を想定することで初めてその精度が共有知識（公然の信念）に組み入れられ、使用可能となる語であり、文脈措定なしには真偽の判断はできない。例えば日常的に「地面が大体平らだ」という主張がなされた場合、そこでは物理学的に完全な平面が想定されたり、逆に陰謀論の例によく上がる地球平面説が主張されたりしているのではなく、単にコップが傾かない
机を作る場面であるとか、道路の水捌け用の傾斜設計場面といった、何らかの具体的目標の下で「平ら」の語が約定され、用いられているに過ぎないだろう。

16

	D. Lewis(1986), Philosophical Papers: Volume I 所収の David Lewis (1978),“Truth in Fiction”（邦訳として、樋口えり子訳「フィクションにおける真理」現代思想 vol. 23-4（1995 年））及びその補遺 David Lewis(1986),”Postscripts to‘Truth in Fiction’”を参照せよ。特に後者では、あるフィクション作品における真理について、フィクション全体における各命題の真偽をその積集合（intersection）としての無矛盾性に基づき評価するではなく、和集合（union）としての評価として（明示的に矛盾する個
別的命題の連言（conjunction）を除外しつつ）各フィクション断片中における真理として受け入れる余地を認めることで、フィクション作品全体で言われていることを失うことなく解釈過程に取り込む提案がなされている。本文で紹介したスコアキーピ
ング論における計画の例で見られる、反事実的条件法使用とその留保を含みながら進行する会話との並行性が見て取れる。

17	おそらくこの理由は、McGowan が Just Words の第２章においてルイスのスコアキーピング論を参照する際、もっぱら [ 例1:presupposition] 及び [ 例 3: definite description] の指示語のケースを引き合いに出し、会話における前提形成に焦点化したことが原因である。上述の通りオンラインヘイトスピーチについては、むしろ「計画」がその性質を近しくするものと思われるものの、その他の言語ゲームにおけるスコアキーピングの動きにはそもそも触れられていない。

18

	D. Lewis(1979)“Scorekeeping in Language games”の [ 例 8: planning] の箇所（p.357）における「計画の前提への組み入れは阻却可能である」ことへの明示的な言及箇所を参照せよ。この文の冒頭にある「通例通り」という確認の通り、これは計画プロ
セス固有の問題ではなく、スコア記録一般に通じる特質である。併せて 1978 年の D. ルイスの論文「フィクションにおける真理」（樋口えり子訳、現代思想 vol. 23-4、1995 年）を参照せよ。そもそも、このスコアキーピングの着想はそれに先だつ『コンヴェンション』（1969 年）において提案していた共通知識、より正確には「公然の信念 overt belief」というアイデアを引き継ぐものである。しかしマクガワンはこの内的な連関をおそらく意図的に無視している。共通知識（公然の信念）というアイデアは、
コーディネーション問題に回答する過程において提示されていたものであり、「〜である」という共通知識は次の事態 A が成立している場合かつその場合に限り成り立つとされる。すなわち、(1) 集団 P の中の全員が、事態 A が成立していることを信じる
理由を持っている、(2) 事態 A は、集団 P の中の全員に対して、集団 P の中の全員が事態 A が成立していると信じる理由を持っていることをインディケートしている、(3) 事態 A は、集団 P の中の全員に対して〜であることをインディケートしている、という場合である。これら条件に基づき P に属するものたちは、背景情報を相互的に帰属することによって、他のメンバーが何を信じ、どのような高階の期待を形成するのかを確定させることができる。事態 A は共通知識（公然の信念）の基底 (basis) である。
差別的な発話がなされた際のスコア記録上の問題も、この P と A を引き継いでいる。仮に共通知識の条件 (1) が成り立っていなければ、そもそも差別発言は差別として機能しない（それは悪態等と区別がつかない）。あるいは条件 (1) が成り立っていても、オンライン・ヘイトスピーチ規制の法内在的制約（２）51そこで成り立っている信念内容が、差別的なものなのか反差別的なものなのかは、集団内の各人において認識不能である。従って、差別的発話に関する共通知識の条件 (2) の成立は、少なくともオンライン環境を前提とする限りにおいて、極めて危ういものとなる。
さて、マクガワンもおそらくこの点に気づいており、ルイスを集中的に論じた箇所では、それゆえに信念に焦点を当てた共通
基盤ではなく、心理的要素を超えた外的要素をも取り込めるスコアキーピングの枠組みを用いる、としていた。しかし、上述のように共通知識とスコアキーピングは対立的というよりは相互補完的である。
19

	意味論とメタ意味論の区別については、S. Kripke(1980), Naming and Necessity の p.59（邦訳として、八木沢敬・野家啓一訳『名指しと必然性──様相の形而上学と心身問題』（1985 年）68 頁）を参照せよ。

20

	D. Ball (2018) Lewisian Scorekeeping and the Future, Croatian Journal of Philosophy 18 (54) 375-384 及

び D.Ball & T. T.

Huvenes (2022)“A Puzzle about Accommodation and Truth”, Philosophical Studies, 179 (3), 759-776 を参照せよ。Ball は本文に上げた自身の立場を Backwards-Looking Meta-Contextualism と呼ぶ。（なお、ブランダムの推論主義と時間的外在主義との関連について言及するものとして、Takaaki Matusi(2021),“Inferentialism and semantic externalism: a neglected debate
between Sellars and Putnam）”British Journal for the History of Philosophy 29(1) 126-145 を参照せよ。
	

この点と関連する箇所として、McGowan(2019), Just Word の脚注の中において、「技術的には」と前置きしつつ、（マクガワンは）スコア変動がまずは即時になされた上で、事後的に訂正や疑義によって元に戻されうる（changes the score back in therelevant respects.）と論じていた。確かに、その場限りの会話における「正しさ」を構築する種類の言語ゲームにおけるスコア変動は即時的であることが多いだろうが、他方で、計画ゲームにおいて典型的にそうであるように、スコア変動は条件付きのまま保留されることもあれば、将来における事実によってスコア変動が事後的に確定することもしばしばである。McGowanのいう即時性は、典型的には指示語ゲームなど、聞き手の意味論的理解が専ら文脈上の整合性に依存している限られた言語ゲー
ムにおいてのみ成り立つ。この点において McGowan の整理は過度の一般化の誤りを犯している。ルイスがスコア変動における進化的特性を論じていたことは、修辞的なもの以上の重要性を持つ。即時性と訂正困難性を強調するマクガワンのスコアキー
ピング理解は、ルイスに違背するものである。進化的特性が実現するためには、それ自体の柔軟性に加え事後における「可塑性」の条件を要するものと思われる。しかし、マクガワンが s 規範の事後的変更困難性を強調する段においては、むしろこの進化的特性は不可逆なものとして、いわば魔術的に措定されるかのように戯画化されている。

21

	この点について、定型的な発達が変数となり典型とされる発語内行為が不発に終わるパターンや、その不発についての責任帰属が受領者側に転嫁される例を検討してもよい。田中優子・神尾 陽子（2007）「自閉症における語用論研究」心理学評論 50 (1),54-63 を参照せよ。また、前稿でも参照したハーマン・カペレン他『バッドランゲージ』の第 9 章第 2 節をも参照せよ。

22

	この点を J. Waldron (2021)“Commentary on Mary Kate McGowan’s‘Just Words: On Speech and Hidden Harm: An Overview
and an Application’”Australasian Philosophical Review Volume 5, 170-178 が指摘している。つまり、McGowan(2019) が挙げた白人客のケースでもヘイトスピーチがもたらす s 規範の害が、発話内的に訂正困難である事情は認められないというのである。すなわち、レストランで罵倒した上記白人客は、同じ姿を SNS で晒されることでバッシングの対象となることが予想される。その際、罵倒はアフリカ系アメリカ人への抑圧の s 規範を暫定的に設定すると共に、すぐ後に続くだろう対抗的な非難によってその効力を減じられることが予想され、また当該対抗的な避難は罵倒する驕れる属性への沈黙化に向けた s 規範を設定しもするだろう。単一の s 規範設定がなされ、維持される場面というのは、背景となる社会的・歴史的状況を呼び起こす形で、（通勤電車や職場や授賞式等を典型として）離脱困難かつ閉じられた会話の空間において、抑止困難な形で同調する圧力に支えられた、
ごく限られた場面である。

	

なお、例えば信用度を下げるという一般的には害として把握される s 規範設定の営為であっても、その規範設定の上で事後に立ち向かうことが期待される場面も容易に想像できよう。例えば、立法府において首相が自身の任期中の政治的成果についての因果的な寄与について厳しい質問を投げかけられる場面を想定せよ。前稿でも参照したハーマン・カペレン他『バッドランゲージ』第 2 章第 5 節では、政治家同士が、複雑な因果的な連鎖を持つ金融危機の主たる原因が相手方とった行動にあることをめ
ぐって舌戦を交わし、互いの二枚舌をもとに証言の信用性を下げる働きを聴衆に対して（ひいては政治的行動を変更させるべく）投げかける例を挙げている。その他、裁判において証言者の認識の整合性に対する厳しい質問が投げかけられる場面なども想定してみても良いだろう。個人ではなく集団の属性に基づく場合であってさえも、こうした信用度の上げ下げを生じさせるやり取りが許容されるべき場合はある。

23

	想定されうる全ての危害を事前除去しようとすることは、コミュニケーションへの参加を拒否することと同値でもある。例えば当該社会で通用する「標準語」に十分馴染んでいない者は、能力的に発話機会が阻害され、会話の規範に従うことに困難を52

東京大学大学院情報学環紀要

情報学研究

№106

抱えるだろうが、この発話 (locutionary) 上の沈黙化を法規制によって修正しようとするものはおそらく少数であろう。発話(locutionary) 上の困難をケアする場面として、たとえば吃音を持つ者を含めた会話における会話スタイルの改善などが想定されうるだろうが、その多くは規制によって達成されることが想定されたものではないだろう。より卑近な例として、例えば「心理的安全性」を欠いた企業における上司部下関係が自由闊達な意見交換を妨げることはありうるかもしれないが、それは少な
くとも現在における法的な危害の捉え方とは距離を持つだろう。
24

	引用箇所は、ジェレミー・ウォルドロン『ヘイトスピーチという危害』による。オンラインとの比較については、J. Waldron. (2021)“Commentary on Mary Kate McGowan’s‘Just Words: On Speech and Hidden Harm: An Overview and an Application’”Australasian Philosophical Review Volume 5, 170-178. を参照せよ。そこで Waldron は、リアル空間におけるヘイトスピーチに対してさえも、例えばスマートフォンでの撮影・拡散を通じてオンライン空間と接続されることで、リアル空間における権力関係が、ヘイトスピーチを成す側を弱化させる形で変動していると指摘している。他方で、こうした匿名的で距離を持ったオ
ンライン空間における、個々のマイノリティ成員が持つ生の多様性が、オンライン上で破られる場面とは何か。典型としては、遮断が容易ではない「粘着」のケースや、多量の表現が連続してまたは共同でなされることで、オンライン上の通常の活動に支障を来たすケースが挙げられうる。ただし、これらは広義のオンラインハラスメントや偽情報対策については妥当しても、オンライン上のヘイトスピーチとしての機能を果たすことは稀であるようにも思われる。

25

	鳥海不二夫・山本龍彦による共同提言「健全な言論プラットフォームに向けて ―デジタル・ダイエット宣言 ver.1.0」は、よど号ハイジャック記事抹消事件判決 ( 最大判昭和 58 年 6 月 22 日民集 37 巻 5 号 793 頁 ) 及びレペタ事件判決 ( 最大判平成元年 3 月
8 日民集 43 巻 2 号 89 頁 ) における「情報等に接し、これを摂取する自由」の内に、自律的な情報摂取の自由の契機を見ている。
関連して偽情報対策の文脈に即して、「フィルターバブル」や集団極化が論じられることもある。しかし災害時や選挙時など偽情報が特に問題となるケースを区分けする必要があり、また「知る権利」の観点からパターナリスティックな介入の妥当性は、事例ごとに独立に論じられるだろう。総務省「プラットフォームサービスに関する研究会」における最終報告書（2020 年 2 月）
を参照せよ。

26

	ちょうど 2024 年 1 月に、プロバイダ責任制限法の改正案の提出についての報道がなされた。内容としては、投稿削除などのプラッ
トフォーム側の措置の強化と、その手続の透明化・簡素化、通知等の情報提供、さらには措置にあたっての基準の設定とその公表を求めるなどである。読売新聞（2024/01/12）「ネット上の誹謗中傷は迅速削除、ＳＮＳ大手に義務付けへ…法改正で削除
基準の透明化も」を参照せよ。なお、本文に述べたアーキテクチャおよび主体への依存性は、より一般的に言えばローレンス・
レッシグのいうコードの問題であり、当該コードへ向けられた法規制によって間接的に人々の振る舞いを制約する間接規制の問題である。ローレンス・レッシグ『CODE VERSION2.0』（2006）第 5 章「コードを規制する」及び第 7 章「何が何を規制するか」を参照せよ。また成原慧（2021）「媒介者責任の再検討

プロバイダ責任制限法改正及び関連する取り組みの意義と課題」

法学セミナー No.803 及び成原慧（2021）「インターネット上のヘイトスピーチとその規制」『ヘイトスピーチ規制の最前線と法理の考察』（2021）も参照せよ。なお、規制の手法選択を検討するに際しては、関連して総務省「インターネット上の誹謗中傷をめぐる法的問題に関する有識者検討会取りまとめ」（令和四年五月）も参照せよ。
27

	さて、このようなスコアボード構築プロセスを通じたｓ規範の通時的確定プロセス性とその保障（assurance）の上で、ｇ規範の組成及びｇ規範によるｓ規範への重みづけ（制約）もまた重要なものとして現れる。この点については、国家の役割が、直接的あるいは DPF を通じた間接的な形で迫り出すことになるだろう。たとえば直接的な形では、政府言論としての反差別の保障が典型であり、間接的な形では偽情報を含む私的な過剰認定やその加熱現象を議論に開くためのフォーラム提供のための共同規制等が許容されうる。この点につき、キャンセル・カルチャーに代表されるように「公共」を標榜した市場への間接的影
響を放縦化させず、その効力をよき社会の構想に基づき現実社会に位置づける観点から、DPF がゲートキーパーとして求められる役割もまた限定づけられる。例えば、ウィッスルブロワー（通報）モデルによる社会的圧力を促進・支援する形態ではなく、継続的監視と改善のプロセスを経るゲートキーパー（chaperone）モデルに基づき、より確からしい根拠の蓄積・参照に裏付けられた議論環境の構築に寄与する介入形態の模索が求められうるだろう。

28	フランスにおけるいわゆる「インターネット上のヘイトコンテンツ対策法」における大半の条項が違憲とされた上で公布・施行された経過において、これを見ることができる。

29

	R. Langton (2018)“Blocking as Counter Speech,”in New Works on Speech Acts, Oxford, 144-164. を参照せよ。また関連して、R.
Langton(2012)“Beyond Belief: Pragmatics in Hate Speech and Pornography,”In Speech and Harm: Controversies Over Free
Speech, Oxford 72-93., R. Langton, (2018)“The Authority of Hate Speech,”in Oxford Studies in Philosophy of Law (Volume 3),
Oxford, 123-152. も参考になる。

オンライン・ヘイトスピーチ規制の法内在的制約（２）

53

30

	Laura Caponetto の 近 時 の 複 数 の 著 作 に よ る。 本 稿 執 筆 に あ た っ て は 特 に、Caponetto, L. (2018)“Undoing Things withWords”Synthese, 197, 2399–2414, Caponetto, L. & Cepollaro, B. (2022)“Bending as Counterspeech”. Ethical Theory and
Moral Practice 26 (4):577-593., Caponetto, L. & Cepollaro, B. (2023)“The Philosophy of Counter-Language”in Counterspeech:
Multidisciplinary Perspectives on Countering Dangerous Speech, Routledge を参照した。

31

同上、Laura Caponetto(2019) を参照せよ。

32	例えば、Wikipedia の編集が一時停止される場面、すなわち論争が加熱したテーマとそのページについての「凍結」などを例に挙げることができよう。あるいは、Twitter におけるリプライ制限なども「非決定」戦略の技術的支援として捉えることもできよう。

33

	技術的な例としては、Twitter（現 X）におけるコミュニティノートにおける評価メカニズムが参考になる。個別に付されているコミュニティノートは信用できるものからそうでないものまで幅を持つ一方で、同機能についての信用性評価が信頼の置けないものであるか否かは記録されていることが公にされている。すなわち、単純な情報操作手法に耐性を持たせるべく、「過去の評価において、意見が相違することのあった協力者の間で意見が一致した場合」にステータス上の寄与を認め、反対に信頼の置けない評価者からの評価の価値を一般的に下げられていくことで無益な評価者とし、長期的には信頼の置ける評価者による評価が量的に高まることが期待される仕組みである。こうした評判メカニズムを健全に機能させる仕組みを、スコア記録の実装という観点から再記述することも可能であるものと思われる。詳細は下記を参照せよ。 https://communitynotes.twitter.
com/guide/ja/contributing/writing-and-rating-impact34

	この点について、デジタル立憲主義と規制主体：国家による DPF 規制のデュープロセス、国家によるローカル規範規制のデュープロセス、DPF によるローカル規範規制のデュープロセスの関連を考察することが求められよう。

35

	上述した語彙を引き継げば、これをメタ意味論的な正義の要求として定式化することもできるかもしれない。この着想の元として、D. Ball(2020), Metasemantic ethics, Ratio 33(4) における意味固定をなす者が果たしうるメタ意味論的誤謬のパターンの整理が参考になる。とりわけ、C. サンスティンが定式化した「不完全に理論化された合意 incompletely theorized agreement」の問題との比較は、その主体や場面との比較の観点から有効であるものと思われる。

36	ややラフな言い方ではあるものの、例えばある種の有害と判断されうる発話に対して DPF 側が警告表示を出したのに対して、発話者があえて警告を無視して修正なしに投稿した場合には、その発話上の意図性を推認させ、またそれを蓄積していくことでスコアボード記録上の「誤審」を少なくする対応などが考えられよう。本文に述べたように、発話者に理由を問いただし、それに発話者が誠実に応えるといったゲームは所与として成立しているものではない。ただし、スコアボード構築・管理が機能する限りにおいては（あるいは DPF が積極的にこのスコアボードの構築に従事する限りにおいては）、ある種の「言質」を収集・蓄積し、議論に先立つ予防的な証拠として参加者にアクセス可能にするゲームとしてオンライン空間上の熟議を組成す
ることは不可能ではないものと思われる。

37

Judith Butler(2022),“Categories by which we try to live”European Journal of Philosophy 31 (1):283-288

38

	R. Langton(2012) を見よ。なおこの点は、ターゲット集団に属する者の正統な権限を剥奪する文を考えてみればわかる。例えば、シオニズム運動の祖たるテオドール・ヘルツルの「聖地には住人がいないのだから、土地を持たぬ民族たるユダヤ人は罪悪感なしに占領できる」という文を例に挙げよう。この文には文面上、特定の人々に対して明示的にその排除やランクづけを変更する悪性はないものの、そこに現に住まうパレスチナの人々そのものを無化している。。あるいは現代においても、同様の発話の例には枚挙にいとまがない。例えば Judith Butler のインタビュー“Palestinian Lives Matter Too: Jewish Scholar Judith
Butler Condemns Israel’s“Genocide”in Gaza”(2023) では、ガザへの電力供給の停止に伴い死者が出る点について質問を受けた際のイスラエル前首相ナフタリ・ベネットの回答、“Are you seriously talking about Palestinian civilians?”が紹介されているが、これもまた「（死者が出るとしてパレスチナには）市民に値するものはない」あるいは「市民がいたとして話すに値しない」という前提を導入するものである。このように上記の文は、特定の人種の無視あるいは殲滅を当然視する前提を導入するものでありつつ、特定の属性を名指すことがなく、むしろ名指すことがないことによってこそ潜在的な「犬笛」効果あるいはマニピュ
レーションを及ぼす。この点において、より一層の悪性を有する。それにもかかわらず、上記の文章はヘイトスピーチとして認識される典型からは外れ、単なる誤った文として一般的には認識されるに留まるだろう。

	

ここでの「マニピュレーション」の語は、三木那由多（2022）『会話を哲学する』による。三木那由多は『会話を哲学する』第 1 章 [ コミュニケーションとマニピュレーションの関係 ] の中で、会話当事者間において（それを本心として信じるか否かは別として）「知らないふり」をすることが困難となる公共的な約束事としての会話の前提や文脈を構築する側面を強く持つものを「コミュニケーション」と呼び、このコミュニケーションを通じて互いに相手の心理や行動を、自分の望む方向へと変化させようとする

54

東京大学大学院情報学環紀要

情報学研究

№106

側面を強く持つものを「マニピュレーション」と呼ぶ。例えば、先ほど挙げた「聖地には住人がいないのだから、土地を持たぬ民族たるユダヤ人は罪悪感なしに占領できる」という文が発話された時には、文字通りに「聖地には人と呼べるような住人はいない」あるいは「聖地には不当な居住者しかいない」という共通の信念を構築することが、コミュニケーションの対象となっていたかもしれない。他方で、明示的なコミュニケーションを回避する形で、他者に対しては「以上を通じて、聖地を自らのものとせよ（障害となるパレスチナの人々を排除せよ）」という指令や促しが含まれている、とすることは妥当であろう。このように、ある発話の意図やコミュニケーションを決定するというよりも、他の現実上の力学との関係において現に成し遂げている共同関係こそが、発話の害の分析においては焦点となる。
	

もちろん、最も低いランクづけの極北として、この例を位置付けることもできる。和泉悠『悪い言語哲学入門』第 8 章 [ ヘイトスピーチ ] でもその発話の悪さをランクづけ機能に基礎付けている。しかし和泉が、本文に上げたような文、すなわち真偽が問いえる一方で、その真偽を評価によって糊塗する発話あるいは真偽についての事実を作り出す実力に裏打ちされた発話について、その悪性をどのように見出すのかは明らかではない。この点については、フランスにおいて「共和国の価値」への同化を求められるとともに、（アルジェリア戦争を隔てた）世代ごとに異なる記憶を持ち、分断されてもいるフランス内のアルジェリ
ア系の人々を想起することができよう。ミシェル・ヴィヴィオルカ『差異』の第 8 章（特に [ 集合的記憶の形成からその公的な表現へ ] の箇所（237-241 頁）を参照せよ。

39

	同上、三木（2022）を参照。上記の混乱の原因は、発話の意味を確定するプロセスとしての「コミュニケーション」と「マニピュレーション」が、発話者の態度に収束するでも共同体の承認に収束するでもなく、その間で浮動（振動）し、正当化された発話の地位を争っている事態に由来する。すなわち、発話側が「マニピュレーション」の意図を詳らかにせず、他方で「コミュニケーション」で正当化される形式と内容において表示された事柄以上のことをなす際に生じる問題であるなお、このマニピュ
レーションの責任を問う仕方につき、三木はコミュニケーションのレベルでの責任とは区別された、もたらされる結果やその予見についての「より一般的な行為の善悪の次元」での責任を要求する。この応答責任の実践は妥当であろうが、他方で、本文で述べるようにこの責任は規制の正当化根拠にはならない。

40

	Derek Anderson(2020)“Linguistic Hijacking”Feminist Philosophy Quarterly6(3) の DPF 上での実装として理解できる。なおアンダーソンは、上述した Ball(2020) を引きながら各種の倫理的義務を導いている。併せて参照せよ。

41

	上記の Judith Butler のインタビュー (2023) による本人の発言による。引用箇所は拙訳であるが、全文の翻訳は下記にて読むことができる。https://note.com/bashir/n/n78fb1d686563
併せてジュディス・バトラー（2019）『分かれ道』（大橋洋一・岸まどか 訳）、とりわけ第 7 章における（ホロコースト）の語りが時間を超えて伝達される際の修辞利用の不可避性と、その修辞が（指示対象となる出来事をアーカイブする目的の下で）出来事から擬似的に独立の（その意味で危険な）「結晶化」に帰結してしまうことのジレンマ状況への言及箇所を参照せよ（360-386頁）。特に後者の結晶化に見られるように、集団的な語りは「言語が記録し、保存し、伝達する素材を不可避的に加工もする」。
このことから例えばホロコーストをめぐる「言説的奪取」を生み出す危険を持ち、「決して忘れるな」を新たな記憶抹消と土地収奪・軍事行動の政治的正当化のために用いてきた、とバトラーは述べている。

42

	この点につき、現下のプラットフォーム規制の状況に即して具体化するものとして、情報法にかかる論集に寄稿を予定している永石尚也（2024 予定）「リスク管理主体としてのプラットフォーム事業者」が刊行予定である。刊行の暁には併せて参照されたい。

永石尚也（ながいし・なおや）［専門］法哲学［主たる著書・論文］
永石尚也（2024; 近刊）「オンライン上のヘイトスピーチと法的介入のグラデーション ソーシャル・メディア・プラットフォームとの協働から」『ヘイトスピーチの何が問題なのか』（法政大学出版局）所収
永石尚也（2021）「公共空間における情報識別と警察活動についての覚え書き」国際関係研究所報 56 巻
永石尚也（2020）「プライバシー・監視・アーキテクチャ 「AI と法」の余白」『法政策学の試み（法政策研究第20 集）』（信山社）所収［所属］情報学環 准教授［所属学会］日本法哲学会、応用哲学会、日本医事法学会、科学技術社会論学会等

オンライン・ヘイトスピーチ規制の法内在的制約（２）55The Regulation of Hate Speech and Inherent Limitations(2): On the Nature of Illocutionary Norm-Enactment andDefeasibility
Naoya Nagaishi*This paper aims to shed light on the desirable forms of regulation of online hate speech and theconditions for its‘desirability’through a linguistic analysis based on an illocutionary approach.
As noted in the previous paper, discussions on the regulation of online hate speech often assume
that typical speech that would be considered hate speech if made in real space (e.g., on social networking sites, video sharing sites, bulletin boards, or in some other form) is made online, and thendiscuss whether it is possible to analogies or extend the regulation of hate speech in real space, and if
so, under what conditions. However, this type of discussion is conceptually flawed in that it introduces the assumption that hate speech, which is supposed to be defined in terms of its real-life functionof exclusion, humiliation, etc., can be identified from the type of content of speech.
Against this background, this paper undertakes the following three tasks. First, it is argued thatthe mechanism for setting conversational permissibility facts (the mechanism for setting situational
norms) for toxic speech made online functions differently from the conversational situation. This isshown through a review of the arguments in the philosophy of language. This review distinguishes
between sneaky norm enactment, which should be eliminated, and norm-setting that requires otherinterventions. Secondly, in the light of the characteristics of online space and online communication
as seen in the previous paper, the mechanisms that give rise to cases of misfire, abuse, and misuseof such normative settings, which deviate from the target population, will be clarified. From this, todeal with the above-mentioned cases, in addition to simple‘objection’as a type of counter speech,‘blocking’to make implicit assumptions visible,‘bending’to modify the assumptions of speech towards a more egalitarian one, and‘non-determination’to limit the efficacy of speech are presented
as intervention methods to be compared and and review. Third, based on these considerations, a jurisprudential examination of the actors (digital platforms or governments) that perform interventions
that reduce the efficacy of sneaky norm enactment and promote egalitarian norm enactment in online
situations, and the conditions for permissible modes of intervention.
* Interfaculty Initiative in Information Studies, The University of Tokyo
Key Words：Hate Speech, Speech Act, Content Moderation, Counter Speech, Scorekeeping, Truth in Fiction.

56

東京大学大学院情報学環紀要

情報学研究

№106