Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/00649.jsonl.gz/16

年若き研究者フェレーナは、スイスで健全な選挙が守られるようソーシャルメディア上のヘイトスピーチと闘い、社会全体の善に奉仕することにワクワクしていた。ところが、人工知能（AI）を使ったそのプロジェクトが世間のバッシングを浴びると、フェレーナもいつしか敵に同意するようになっていた。安全な場所など、もうどこにも無いのだと。このコンテンツは 2022/06/20 08:00
戦闘的な太鼓と陽気な笛の音が流れる。カメラは1枚の絵をなめるように映し出す。大きな木おけ1つを囲んで食事をする男たちを描いた絵だ。彼らはチューリヒとツークの色である赤、青、白の服を身にまとっている。画面に「サムエル・アルブレヒト・アンカー作『カッペルのミルクスープ』」という字幕が現れ、男の声でナレーションが入る。「1529年、旧教徒と新教徒が戦いのためカッペルに集まった。しかし、兵士たちは戦う代わりに食事を共にした…互いの共通点を探ることは、私たちの国の伝統だ。それが私たちの国民性なのだ」
明日のユートピアとディストピア」：swissinfo.ch制作の新しいSF連載小説
ユートピアかディストピアか？夢か現実か？現代のテクノロジー革命は、人類の未来をめぐる根本的な問いを私たちに突きつける。新しいテクノロジーは、人間の味方なのか、それとも敵なのか？社会における私たちの役割はどう変わっていくのだろう？人間は超人的な種に進化していくのか、それとも機械の前にひれ伏す存在に成り下がるのか――。
swissinfo.chオリジナルのSF短編連載「明日のユートピアとディストピア」は、そんな疑問に革新的・空想的なアプローチで答えるべく制作された。制作に携わった小説家グループの創造性と、物語に出てくる分野で実際に活躍するスイスの専門家とのコラボレーションを通じて、テクノロジーが私たちの生活をどのように変えるかを想像し、理解しようという試みだ。連載では毎回、スイスを代表する科学者による事実に基づく記事も紹介。最新の研究分野の動向を知ると共に、私たちの想像力をさらにかき立てる。End of insertion
このビデオを見た人は、マインドコントロールされてしまっている。
年金改革に関する電子投票を前に、何人かの有権者が、ネットサーフィン中にこのビデオを見たと報告した。いずれも年金改革には反対に傾き、国家介入の強化よりも個人の自由と自己責任を支持する人たちだ。
名前は出せないが確かな情報筋によると、これは政府に非常に近いある有力機関による意図的なターゲット選びだ。「カッペル3.0」というコードネームを持つプロジェクトだという。
人々は、政府の提案を全て無批判に受け入れるよう仕向けられている。
人工知能（AI）が、誰が何を見るのかを決めているのだ。
市民の家の中という場所で、票の操作が行われている。安全な場所は、もうどこにも無い。
投票を支配したのは有権者か、それともAIか。それは次の日曜日、投票後に分かるだろう。
署名：自由思想家
「どう思う、フェレーナ？」
フェレーナは、言葉をためらいつつコンピューターから母親へと視線を移す。彼女の反応を待っている母親の唇はきつく結ばれ、目は輝いている。
今回ばかりは「自由思想家」のつかんだ手がかりは本物だった。
この匿名ブロガーのファンになった母親のウルシは、山岳地下シェルターに関する「内部情報」から大手製薬企業を狙った攻撃まで、最新記事が上がれば必ず娘にも読ませようとした。フェレーナはその都度、突拍子もない仮説に腹を立てるか、そうでなければ、ウェブデザインのあか抜けなさにいたたまれなくなるのだった。母親の振る舞いに変化が表れたのは、フェレーナがチューリヒきっての大学でポスドクの地位を得てからだ。まるで、娘よりも自分の方が頭が良いと証明したがっているようだった。
「ただのビデオだよ」。フェレーナは自分の守秘義務を思い出しながら、そう返した。「マインドコントロールのはずはない。人々の選択の自由は失われていないのだから。どちらかというと...」。彼女はためらい、そして一般的に使われている言葉を思い出した。「ナッジ（訳注：望ましい行動をそれとなく誘導する手法）だと思う」
この記事への反応を調べるためにツイッターを見ていたウルシは、その言葉に顔をこわばらせた。
「それは人心操作じゃないの！」
「人間の判断力などいい加減なのだから、優秀なAIにお出まし願おう」。「生意気で自由」というアカウントのこの書き込みは、11秒間で98件の侮辱的リプライと120件の賛同リプライを集めた。
ウルシは「他の国ならまだしもスイスではこんなことは起きないと思っていた。彼らはそんな真似はしないはず。国民をリスペクトしているから」と言う。
「『彼ら』って誰のこと？」
「誰だか知らないけれど、これをやった人たちのこと」
***
フェレーナは、チームがAIシステムを初めて起動させたときのことを思い出す。チームはディープニューラルネットワークを構築し、そこにスイスに関するコンテンツを送り込んだ。民主主義の促進が目的だった。
チームがシステムに与えた指示は、政治的に過激な方向に傾いたり暴力的行動の兆候が見られたりする人々を見つけ、彼らを共通の土台という安全な中道ポジションにシフトさせるというものだった。
ディープニューラルネットワークは、起動して数秒後には、カッペル3.0という名を自分に付けた。そして、チームが準備した戦略のひとつひとつに対し起こりうる結果をはじき出した。チームは、一握りの有権者らに少額の報酬を払って「社会科学調査」に参加してもらい、AIがプログラミングされた通りの効果を発揮するかどうかを確かめた。成功した場合、連邦内閣に正式な報告書を提出することになっていた。それは、フェレーナにとって最もエキサイティングな仕事だった。
しばらくしてフェレーナは、どこから情報が漏れたのかをいぶかりつつ、「善意でやっているんでしょう」と答えた。
「どうしてそれが分かる？あなたのおばあさんは、私たちに参政権を与えるために闘った。それなのに今、私たちは洗脳されている。そのささやかな自由さえも奪われようとしているのよ」
「スイス史の基本を有権者に思い出させても害は無いでしょう。お母さんは私が小さい頃、よくこのお話を聞かせてくれたじゃない」
普段ウルシは、こうやって昔を思い出させると落ち着くのだが、今回はうまくいかない。
「まさにそこよ」と彼女は声を荒げた。「大人が子供扱いされても良いって言うの？」
フェレーナは「ただの短い動画でしょう」と話を切ったが、その言葉は空しく響いた。
次の日曜日、フェレーナは母親の好きな花を持って訪れた。
ウルシが投票の暫定結果を確認する。事前の予想に反して「賛成」が勝ちそうだ。フェレーナは思わずニヤリとする。
「成功したわ！分かる？これは人心操作じゃなく、軌道修正なの。しかも、ちゃんと機能した」
うっかり口を滑らせたことに気づくのが、1秒遅れた。
今聞いたことの意味を理解するのにウルシは一瞬を要した。そして「あなたは彼らの仲間だったんだ！」と絞り出すように言った。「これがあなたの秘密のビッグプロジェクトだったの？」
ウルシは立ち上がった。声が大きくなった。「あなたは投票にもほとんど行かないくせに、自分の考えを他人に強制するのはOKなの？」
「違う。説明させて――」
「出ていって」
フェレーナがドアを閉めると、ウルシは猛然とツイッターに書き込み始めた。「私は#カッペル3.0についてレファレンダムを要求します。賛同者はいますか？」
***
フェレーナはぼうっとしながら駅まで歩いて戻った。これから友人らと会って飲む。早く飲みたい気分だった。携帯電話が鳴った。教授からだ。声がいつになく動揺している。
教授は小声で「ネットにさらされてしまった。チームの全員が、だ」と話した。「何者かが私たちの住所を掲示板に載せた。コメントが炎上している」
しばしの沈黙。
「今夜は家に帰らない方が良いかもしれないよ。どこかに泊まれるかい？警察には連絡済みだ」
フェレーナは、ちゃんと気をつけるからというようなことを一言二言つぶやいたが、頭の中は真っ白だった。まさかこんなことになってしまうとは――。
***
結局、同僚1人が辞めたものの、フェレーナは新しいアパートに移り、より精力的に働いた。教授はメディアでチームの仕事を擁護し、対象となった有権者は少数のボランティアだった、と重ねて主張した。
チームは、AIと民主主義を問うレファレンダムへの対案作りに協力している。「カッペル3.0」プロジェクトは棚上げになっているが、代わりにそのニューラルネットワークを学校でのいじめ防止支援に投入している。
数週間の沈黙を経て、ウルシは娘に電話をかけた。共通点を見つけるために。
***
1年後、フェレーナと母親は再会した。2人はハグをしてから別々の投票ブースに入っていった。
カッペル3.0の全国的実施について
賛成／反対
サビーヌ・シュール（Sabine Sur）：翻訳家、作家。テクノロジーが人間の心に及ぼす影響に特に注目している。チューリヒ州に家族と在住。ルス・モーパン名義でも執筆。End of insertion
今回のストーリーは、どのくらい現実的でしたか？アルゴリズムやビッグデータは民主主義の強化、あるいはその妨害のためにスイスでどう利用されているのでしょう。研究者や専門家が現状を説明する記事はこちら。
（英語からの翻訳・フュレマン直美）
JTI基準に準拠