まちづくり Ai 研究会
主催：特定非営利活動法人 高度情報通信都市・計画シンクタンク会議（略称：テレパック）
特定非営利活動法人 日本都市計画家協会
一般財団法人 都市防災研究所
第 1 回まちづくり Ai 研究会

2017 年 4 月 26 日

AI 導入とロボットまとめ・イメージ討論
Introduction「機械学習」という自己発展機能をＡｉが獲得してから、Ａｉの発展に多くの期待が寄せられております。街づ
くりコンサルタントの現場に、Ａi の発展はどのような形で姿を現してくるものか、興味をお持ちの方も多いと思います。
また、その一方、ホーキング博士のように「Ai の発展は人類の終わりの始まりである」と、Ai に対して否定的な見方もあります。
津波の記憶が鮮烈な今の時代に、もし「街づくりソフトウェア」が生まれていれば、その Ai は津波を学習し「ウォーターフロント構想」を却下するのでありましょう。それでは「ウォーターフロント構想」は阻止されるのが正しい判断であったのか？ 複雑な判断に関して Ai に寄せる期待は単純に割り切れない部分があります。
1. 最近の Ai 活用事例と人口知能学会の動向
Ai が、街づくりにどう関わっていくことになるか、Ai の装置を多く見かけるようになるにつれ、気にかかる問題である。街づくりにおける Ai は、街づくりをささえるパーツとしての Ai が多く登場してくることは間違いないとして、街づくりの総合判断を行う Ai まで登場してくると考えるべきか。その判断について意見はまちまちであるといえる。
ウォーターフロント開発が流行した当時、もし総合判断力を持った Ai が存在していたら、開発に否定的な問
いかけを投げかけたろうと思われる。少なくとも開発の危険確率は提示したはずで、危険を承知のうえの都市開発は、果たして進むものであろうか。
Ai は過去３回のブームがあった。第一次ブームは 1960 年代、チェスのチャンピオンに勝つソフトを作り上げることを目論んでそれに失敗して沈静化した。現在は、第三次ブームであり、碁・将棋のチャンピオンに勝てるようになった。しかし、ソフトウェアの仕組みは 1960 年代に志向したものとは異なり、過去の名人の棋譜を大量に覚え込み、その中からよく似た手を選択することでゲームに勝つようになった。これは名人にゲームで勝つための方便として評価はできるものの、人類が検討しなかった諸データを、コンピューターが代わりに検討・吟味して新しいアイデアを出す、という原初のころの期待とは異なる仕組みと言える。あくまでも、「多数の名人から学ぶスピード」において、現役の名人を上回っているのであり、無から新しいアイデアを生んでいるとは言い難い、と考える。
2. ロボットまとめ
人間はロボットに何を求めるのか-communication を中心に 対話型ロボット
究極の街づくり Ai のイメージ 討論
街づくりの部分的な機能を果たす Ai は発達しても、街づくりの総合判断的な機能の Ai は機能しにくい（？）◎判例や医師の診断には Ai は有効なはずであるが、利用者から感想を聞きたい。漠然と「社会と Ai」「都市と Ai」をテーマに意見交換しても良い。

◎問題提議の場を作るのは面白い。損害保険業界が出資し、危険確率予報を提示する形式なら存在できる。
◎プランニングエイドの可能性は、肯定派と否定派と出てくる。街づくりの部分的な機能を果たす Ai は発達しても、街づくりの総合的な機能の Ai は機能しにくい、言い換えればデータを集めにくいと感じる。危険確率予報
等で、いいのでは。Ai とはそんなものだと割り切って。建築設計の条件設定などだけ Ai にやらせれば良い。その後の判断を人間がやれば良い。
プランナーの業務はもともと生産的でなく原始的である。過去の判断データは蓄積されない傾向があり、その場その場の判断であるから、Ai 化は考えにくい。単に業務を部分的に補う機能があれば良いのでは。

第 2 回まちづくり Ai 研究会

2017 年 8 月 2 日

RESAS の展望
robot まとめ（人工無脳 chatbot）2
RESAS 動向
NHK スペシャル ほか
1. Humanoid Robot まとめ 2(交際報告)◎Aquos スマートフォン アプリ エモパー（アンドロイド・アプリ）
自宅・指定場所（職場等）のみ発音する。卓上等に置いた場合と光の入射など特定タイミングのみ一方的にしゃべる。カレンダー登録内容やニュースを読み上げる。2 語程度にしか応答できない。メモ機能は音声認識レベル
が低く不調。現在のところコミュニケーションの域に達していない。
◎コルタナ（マイクロソフトのアシスタントソフト）
検索エンジン Bing と同体。呼びかけで起動できる。ある程度コミュニケーションは成立している。
◎KIROBOmini キロボミニ
顔認識(個人識別は不可能)。話者に顔を向ける。目の発光で感情を表現。頭と手の動きが細かい。褒めると喜ぶ。
無視すると怒るなど。少しずつ言葉を覚えるが意味は理解しない模様。単音節中心。
会話を円滑に続ける技術として、言葉にならない「あいづち、うなずき、アイコンタクト、身振り、手ぶり」などがある。キロボミニは、こういった技術に力を入れている。会話は人間側に努力が強いられる。
3. AI communication その他の話題◎人口知能少女育成プロジェクト （バンダイナムコ）
10 万人の人がツィッターで言葉を教える。
◎人材採用ロボット Mya ミャー
人材採用の雑用の 75％は処理できる。認知バイアス（学習担当者の偏見による差別的な判定）の問題が残る。
◎ケンブリッジ大学 ThisWayGloval
認知バイアスを避けるために機能修正。
◎Ai 作成の規範
ロボット３原則は、Ai にも当てはまる。
Ai の国際基準作成の話あり。日本主導とのニュースもあった。
機械学習の限界は教師データのある分野でしか発展がないところにあるロボットまとめ 2 人間はロボットに何を見るのか-人工無脳 communication
４．RESAS の展望
RESAS は機能の中に、地域間の顧客争奪予想を加味すれば地域振興の行方を占う Ai となる可能性がある。例えば各県のデータに県別地域産業連関表の投入係数をリンクさせる、そこから 47 都道府県間地域間産業連関表を

生成させる、さらに顧客の奪い合い分析機能を加味させる、そういった作業を加えると、地域ビジネス同士の競争の優劣関係を判断できるようになる。しかし内閣府サイドはその可能性についてコメントを避けた。
◎街づくり Ai 開発の現状について
開発の渦中の外縁に居る人ほど、Ai の出現に大きな期待を寄せてしまう。そして開発の渦中に居る人は、周囲の期待とのギャップに戸惑い、口をつぐんでしまう。某大学で人工知能やロボット、Ai の専門家で研究予算を獲得する人材の名乗りを求めたが、Ai 全般について漠然と自分の専門と考えている人物はいないことがわかってきた。Ai は、あくまでもそれぞれの分野の内部で道具として存在し、普遍的な姿で全ジャンルを横断的にサポートするものではないことがうかがえる。
◎平成 29 年６月 25 日放映

NHK スペシャル 人工知能 について

ポナンザの限界
ポナンザがどんなに機械学習を繰り返しても将棋しかできないことに変わりない。しかし、世間が Ai に寄せる
期待は、そういった限界を全く気にかけていないような怖さがある。人工知能は、設計の境界をも超えて、いわばポナンザが自己進化して将棋以外のことも始めるような期待を寄せている。
機械学習の限界は教師データのある分野でしか発展がないところにある。
饗庭先生のご紹介でディレクターの藤原氏とコンタクト中。番組で紹介される「Ai 政治家」の話は、Ai に寄せられる現代の（過剰な）期待を象徴しているといえる。しかし、実際、そういった過剰な期待を口にする人々によく出会う現実もあり、無視できるものではない。政治 Ai は声の大きい世論に阿ることになりかねない。
営業に使う Ai は、最初の導入社に利益が来るが全社が採用した場合、初期投資が高いだけに採算は微妙になるのではないか。
総合的に判断を行う Ai は、稼働に多くの電力を食うため、小口の用途で使用が難しいと聞いている。車の自動運
転もそこがネックになっているそうである。
いずれ顧客の奪い合いを分析する Ai は登場する必要はある。
◎災害
街づくり地域の被災履歴が RESAS に反映するなら意義あるはずである。河川センサーなど単純な危険センサー
は実用に入っている。
◎課題
ビッグデータになり得るデータの種類に限りがあるのではないか。不動産登記をデジタル公開でもするなら状況の変化もある。葛飾区内だけで１か月 2000 件の書き換えがあるが、利用する人が居れば有効だろう。法務省は公開の予定のようである。官公庁の入札データなども容易に検索できるようにしたら興味深いものではある。翻訳ソフトも進歩しているが、まだ単純会話の域に留まりそうである。

第 3 回まちづくり Ai 研究会

2017 年 9 月 20 日

「NHK スペシャル 人工知能～天使か悪魔か 2017～」の取材から見た人工知能
講師
ＮＨＫ大型企画開発センターディレクター 井上雄支氏
電気通信大学大学院 基盤理工学専攻 内藤 僚氏
講演後の主な討議◎６月 25 日に放映された「ＮＨＫスぺシアル 人工知能～
天使か悪魔か 2017～」にて紹介された各種の AI について
AI 観を伺います。
◎アルファ碁が囲碁名人に勝った後、「人工知能の革新」という本を羽生名人が出してヒットしている。個人的には、家電で、求めてもいない AI 機能が付加され、しかもそれが高価格で売り付けられることに腹立たしい思いをした思い出がある。人工知能が誰のためにあるのかを考える必要がある。
◎ポナンザが将棋名人に勝利したが、過去 5 万局の棋譜を覚え込ませてレベルアップさせた。さらにポナンザ同士が自己対局して 700 万局の棋譜を自己学習して強くなっている。その思考回路はブラックボックスの状態にあるといえる。このブラックボックス化の傾向は社会に使われる AI においても生じている。
◎タクシーの顧客発生場所を予測をする AI を、携帯電話の分布データと過去の顧客獲得データとを合わせて作成し、成果が上がっている。この成果で得をするのはタクシー会社とドライバーであるが、需要の低い辺境な場所にいる顧客はいよいよタクシーに乗りにくくなる、という形で損を被るようになる。またベテランドライバーの経験や勘の価値が低くなる形で損も発生する。
◎アメリカで犯罪者のプロフィールデータを人工知能に読ませて再犯リスクの予測を行っている。感情的な誤審を回避できる反面、根拠のない評価で犯罪者への偏見が人工知能により増殖・増強される危険がある。例えば、黒人の犯罪者の方が再犯リスクが高い、という現実の統計が、関連性を考察されないまま、機械的な偏見として保存されてしまう危険がある。中国で顔の人相で犯罪発生を予想する AI が生まれ、アメリカで批判されているが、現地では実際に使用されはじめている。
◎韓国で発注された「AI 政治家」。受託したレンゲーチェル氏は AI による民主社会の実現を目指している。
◎量子コンピューターの計算スピードが AI を進展させる可能性がある。量子コンピューターは、計算素子が複数のデータを担保できることから従来の古典コンピューターにない計算速度が生まれる。あらゆる選択肢の中から最適解を割り出すタイプの思考プログラム（組み合わせ最適化問題）を AI が行う場合、選択枝の数が増えると天文学的な計算時間を必要とする。例えば避難所巡回ルートの選択プログラムで試算させると、スーパーコン
ピューターの場合 1401 万年かかる計算が 10 秒で解けてしまう。トランジスタの素子は、１か 0 かを認識しなければならないが、量子コンピューターの素子は 0 と 1 を同時に表現することが可能になる。量子コンピュータ
ーの素子が 2000 あることで取り扱われる２の 2000 乗個のデータの数は、宇宙全体の原子の数より多い。一方、スーパーコンピューターが扱うデータの個数は７×10 の 13 乗個（70 兆個）レベルで終わってしまう。フォルク
スワーゲンでは渋滞解消モデル、北京市のタクシーの利益最大化モデルを量子コンピューターを用いて開始した。
中国は盗聴不可能な通信として量子コンピューターを用いようとしている。
◎組み合わせ最適化問題の形ですべての疑問は解消されるものではないのではないか。政治判断などは組み合わせ最適化問題で考えるのは難しいのではないか。韓国の AI の発注について批判意見はどのようなものがあるか◎答えを出す思考回路が見えないものに運命を託していいのか、という意見が出ている。セカンドオピニオンならば良いという意見はある。
◎ポナンザは多分、組み合わせ最適化問題の形でプログラムを組んでいないだろう。最もよく似た局面を過去の棋譜から適用していると想像される。すべての選択枝を拾うのは、将棋や政治では難しいように思う。
◎分野によっては AI が人間を越え始め、科学者達は今、人工知能でない、本来の人間の知能って何だったかを改めて考え始めている。これを考えないと AI の開発ルール（倫理規定９条）も定めにくい。多くのノウハウを重ねてもその重ねた先の目標が見えていない。
◎倫理規定が作られ始めているのですね。
◎人工知能学会のホームページで掲載されている。９つの倫理規定、人類への貢献、法規制の尊守、プライバシ
ー尊重、公平性、安全性、誠実性、責任、対話、自己研鑽、が示されている。
◎考えるのが面倒な話・辛い話が、面倒だから人工知能に期待する、という姿勢が見られる人が時としている。
危険な安直さであり、警告を発したく思う。
◎情報総研の委員会からプリファード・ネットワークス PFN が脱退したのが、技術開発阻害が理由であった。
レベルによって発生する課題は変わるのであって、一律の倫理規制はトップ企業にとって阻害でしかない場合、倫理規制は有用とも言えなくなる。
（牧）◎都市計画から AI に期待される点は？
◎ひとつはインフラのメンテナンスのように、大切であってもあまり人がやりたがらない作業を AI が肩代わりすることを期待する面がある。しかし、人がやるべき部分と機械がやるべき部分の境界がどこにあるかについて
は個人個人で非常に感覚が異なる。
◎帰宅困難者の映像的把握などのツールとしての AI は期待している。テロなどのセキュリティに AI を使う可能性はあるだろう。
◎行政は既に情報過多の傾向があり、わざと情報が入らないようにしている場合もある。AI がその情報処理をすることはあるとしても、最終判断は昔の原始社会のように情緒的に行うしかないのではないか。ブラックボック
スで判断が行われると責任がハッキリしなくなる。
◎AI は情報の真偽判定は得意としているので、真偽さえ判定されていれば、そこから先は判断を割り切れる可能性もあるのではないか。現状は、真偽判定できるデータの判定さえも行っていないから、AI を批判する以前の段階といえる。
◎ポナンザがどんなに機械学習を重ねても、将棋以外の営みは始めない。そこが天然知能と人工知能の違いであろう。街づくりなどは、その天然知能が最も発揮される場所ではないか。
◎金融取引株の売買プログラムで、世界の映像を読み取って判断をするプログラムがあるがあり、人間が買う前に買うといったアクションをする。
◎キーワードのひとつは最適解といえるだろう。ダーウィン的は進化論だと必ずしも生き残ったものが最適とも言えない。
◎氏素性の不明な判断をするのは AI だけではなく人間もそうであろう。損して得を取るような判断を今後 AI は行うだろうか。あるいは組み合わせ最適化問題にあらゆる問題を置き換えられるかで判断できるか決まるのではないか。
◎教師データをどこから持ってくるかで決まると思う。
◎メタ（情報整理？）の発想は本来人間は苦手である。何が最適であるかを AI が決めるのかがカギだろう。捨てられているデータを拾う機能が AI に期待できると展望が開く。棄てるべきもの、拾うべきものを見定めるのがプランナーの腕の見せ所だろう。

◎捨てられていたものの中に宝を見出すようなアクションを人工知能がやるだろうか。
◎費用対効果の問題で決まるのではないか（ゴミを分析して価値を見出すのにかかるコストの問題）。携帯電話のビッグデータを高い金額で買ってまで都市計画をやることはない。
◎携帯電話のビッグデータがビジネスに役立ったら、その分、電話料金は安くなるべきだ。
◎個人情報保護法の改正。匿名加工情報にすることで流通を諮る。
◎すべての人が AI を使ったら飽和状態になるのでは。
◎過疎地（空き家問題等）のまちづくり経営における最適解に AI が使えないかと思う。そういうデータは日本
各地にあると思われる。
◎いらないと思っていた物事の山に価値あるものを見出すプログラムはあるだろうか。
◎学習を繰り返すプログラムしか話題が聞こえてこないが、そうではないプログラミングはないだろうか。
◎次回、藤原ディレクターが、地域の諸要素の間に、意外な関係があったという報告をする。夕張という特殊な地域の特殊な相互関係が浮かんでいる。
◎トイレ管理をする AI を誰かが作っていたとしても、自然にウォッシュレットを生み出すことはないだろう。
◎将棋では、棋譜の中で人間が、前例のない手を打っている事例がある。旧時代の社会でトイレの後、水を使う
稀有な事例がひとつでもあれば、AI がウォッシュレットを作る可能性もあるだろう。
◎AI のプログラムに遊びを持たせる発想がいるだろう。AI の認識はあくまでも曖昧さの残る近似解である。今、近似解だけで役立っているので何とかなっているが、厳密解が求められるようになると量子コンピューターが必要だろう。
◎中国の人相判断 AI は、再犯率は結構当てているが事例母数が少ないので真否は何とも言い難い。
◎量子コンピューターが、なぜ一つの素子に２種類のデータを置けるのか。
◎量子（原子や光子等）には、確率的に２種類のデータを持つことができることが実験的に知られており、それを利用する。
◎取り出しても計算するときは、１か 0 か決めなくてはならないだろう。
◎量子コンピューターD-Wave は今、絶対零度でないと作動しない。
◎捨てたゴミの中に宝を見出すプログラムが生まれるなら、私の AI に対する世界観も変わる。
2. AI 関連・応用に関する記事（抜粋）紹介

第 5 回まちづくり Ai 研究会

2017 年 11 月 22 日

「バーチャル・シンガポール」の進展から見る街づくり
講師
AI ダッソー・システムズ株式会社 熊野和久氏氏
関連リンク ダッソー・システムズ https://www.3ds.com/ja/
主な討議(イニシャルは講師）◎ダッソーシステムズはフランスを拠点とする It 企業のソフトウェア部門である。科学を基盤し、サイエンスとテクノロジーとアーツを融合することが理念である。(K)◎もともと CAD の会社であり、２次元を３次元にアップさせる形で発展した。大手自動車会社の車のデザイン、
飛行機のデザインに協力している。日本本社は設立 23 年、700 人の従業員がいる。(K)◎バーチャルシンガポールは AI でアウトプットされた分析結果を３次元 GIS に反映させている。管理業務、災害対策に活用されている。(K)◎省庁、経団連による情報把握のツールとして活用されている。バーチャルシンガポールの影響を受け、バーチャルジャパンという考え方も登場し始めている。BIM（building information management）との相違点は、建築申請データ以外のデータも活用されている点である。シンガポールでは建築申請が電子化され、BIM として政府が持っており、それに更なる実写データが加味される。BIM を用いるとひとつひとつの部屋のデータも把握される（映像投影）。都市データのデジタル化の進展は都市問題の解決目的がバックボーンにある。衛星データも加わり３Ⅾ化の有用性が認識され今日の状態になっている。(K)◎分野によっては AI が人間を越え始め、科学者達は今、人工知能でない、本来の人間の知能って何だったかを改めて考え始めている。これを考えないと AI の開発
ルール（倫理規定９条）も定めにくい。多くのノウハウを重ねてもその重ねた先の目標が見えていない。(K)◎３次元解析がここまで進んだことに感心する。
◎避難シミュレーションモデルがよく組み込まれていると思う。
◎避難シミュレーションは、別の部隊が組み込み作業をしている。(K)◎気象、地形などの都市基礎データと３Ⅾシミュレーションの親和性に長所があると考えて良いか。
◎可視化に優れているといえる。(K)◎総合的な交通シュミレーション（タクシーの空き等の分析）、インタラクティブなフロア・ガイド（特定ビルの詳細モニタリング）、バリアフリー化、要支援者に対する見守り（子供にセンサーを持たせる）、防災シミュレー
ション、センサーによる老朽インフラのマークキング、GIS データ等オープンデータの活用、歴史的町並みの再
現などに有効である。パリ 2000 年の歴史を youtube 上で可視化した。
（https://www.youtube.com/watch?v=64kHmCJGMA）(K)◎パリの 2000 年の歴史、他の土地でもやると意義深そうだが、費用はどのぐらいかかると思って良いか。専門家がある程度集まらないとできないと思う。
◎かなりの金額であることは間違いない。日本中に作るのは難しいので出来た所から置いておけば良い。(K)◎シンガポールではこのデータをだれでも見れるのか。
◎政府だけである。公開のあり方についての議論はある。泥棒にも役立つデータである。(K)◎各部屋をオブジェクトとすると税務署は喜ぶ。
◎超管理社会にならないか。
◎このデータを NTT のような民間的組織（NCS）に委ねようという話はシンガポールでは出ている。忘れ物が出ると防犯カメラをレビューして落とし主がわかるほどであるが、日本人の個人情報保護法の感覚からすると引いてしまうものがある。(K)◎経済活動までデータ化できれば政策立案などに非常に有効だろう。今の地方政策でそこまで話されていない。
◎交通量などは具体的である。(K)◎このシステムを適用したいレベルは？
◎政令都市、中核都市レベルをイメージしている。(K)◎川崎では３D をイントラネットで見えるようにしているが、アクト的な部分はフォローされない。維持費がかかるので、開発費に予算がついてもアクション部分が追い付かない。川崎の方々（建築、都市部門）は、シンガ
ポールに見学に来るとおっしゃっていた。政令都市の半分は航空写真による情報把握が進んでおり、それを補うシステムとして導入される可能性はあると考える。(K)◎美術館などにもあって欲しいシステムと思う。
◎森ビルなど関心を持たないか◎森ビルは意外に IT に関心がない。
◎企業の収支も推計できてしまうだろう。
◎足を運ばなければ見えないものが見れる意義は大きい。
◎ハザードマップも初期の頃は公開に難色を示す人が多かったが今は違う。
◎膨大なデータの更新は？
◎部分的な更新の積み重ねで良しとすべき考えが現実的ではないか。自前の GIS と連動させるのも良いのではないか。点群データの転用でも良いのではないか。(K)◎当社の技術は遠い映像を粗くし、近い映像を細かくする機能があり、画面の作動を早く見せられる。(K)◎３D 機能を素人が扱う時代は来るだろうか。
◎素人のレベルにもよるが、google で見れるレベルの３D ならば既に実現しているといえる。(K)◎オープンデータの今後の可能性はどう考えるか。
◎可能性はあると考える。(K)◎２次元のＧＩＳデータを役所からもらうだけでも扱うのがたいへんであるけれど、それを思うと、素人の間で３次元 GIS データがポピュラーにやり取りされる日は来ないように思う。専門家がチームを組んで使う３次元
GIS はあっても個人が勝手に使う３次元 GIS は困難である。ドローンの登場は、３次元 GIS を変えると思うが、素人にとって３次元 GIS はさらに遠くなる。それぞれの時代にその時代のモニュメントとなるような営みがあり、それはたいてい多くの人の努力の集大成で生まれる。バーチャルジャパンもそういった営みから生まれると理解したい。
◎バーチャル市長室を作る労力は簡単ではない。誰がお金を出すと考えたらよいだろう。川崎で２次元 GIS の保育園マップを作ったが、それで最寄りの保育園がわかったからといっても入園を保証するわけではなかった。実
質的な機能がなくモニュメンタルな意味だけであったが予算があるとできる。
◎バーチャルジャパンの可能性が見えてきた頃、再び登壇いただきましょう。
AI 関連ニュース（抜粋）紹介第 6 回まちづくり Ai 研究会

2018 年 1 月 30 日

「量子コンピューター」の発展から見る AI
講師
電気通信大学大学院情報理工学研究科博士課程 内藤僚氏
主な討議
◎電気通信大学

内藤さんから「量子コンピューター」について伺います。

（司会）◎量子コンピューターは２種類（特化型量子コンピューター、汎用型量子コン
ピューター）発展形がある。
（内藤）◎google は AI の発展のために量子コンピューターに期待を寄せる。組み合わせ最適化問題を短時間で解決することに道を開くからである（組み合わせ最適化問題に特化した量子コンピューターをアナログ量子コンピューターという。カナダのディーウェーブ等。これに対し、デジタル量子コンピューターは、古典コンピューターとの変換を兼ね備えたもの。
）（内藤）◎期待される機能。渋滞の緩和、スマートグリッドのエネルギー配分、自動運転、工場の自動化など。ビッグデータの直接処理。盗聴不可能な通信。交通量最適化。信用評価。画像認識。投資ポートフォリオ最適化。
（内藤）◎量子コンピューターが何故早く計算できるか。トランジスタに収録される値が、0 と１と同時に存在できることに由来する。プログラムで言い換えれば、複数の分析を１つ１つ順番に行うのでなく、同時並行に行う処理ができる（超並列計算）。
（内藤）◎量子コンピューターの物理的課題。宇宙線の影響、絶対零度が必要。ノイズ平均を取るために複数回計算する必要が残る。
◎投資ポートフォリオにおける銘柄相関の計算に量子コンピューターは向いている（動画）。
◎量子コンピューターのトランジスタをオセロに譬える。白い面を出すか黒い面を出すか、それは確率的に定まる。検索機能のプログラムが変わる。
（内藤）◎インターステラのパラレルワードに量子コンピューター的考えが現れ始めている。
（牧）◎富士通のデジタルコンピューター。量子シミュレーションではない、という意見がある。（内藤）◎2013 年、オクスフォードの調査ではホワイトカラーが不要になる旨、指摘がある。中レベルのソフト屋は不要になる旨の指摘がある。
（木村）◎量子コンピューターは機械言語だけで動いている。（内藤）◎量子コンピューターは今、最適化問題しか扱えないと言える。ユーザーとして量子コンピューターの最適化プ
ログラムを作る人間がいる。
（内藤）◎量子コンピューターの予算を中国が膨大に確保し、世界から研究者を集めている。日本では NTT でさえ５年で 30 億円である。
（内藤）◎日本では量子コンピューターの研究ブームが去った感がある。予算と人材のある所しかできない。
（内藤）◎デジタル量子コンピューター（デジタルア二ール）とはソフトウェア上で量子コンピューターのトランジスタの記憶のパターンを再現させる技術である。
（内藤）◎そのソフトがどういう仕組みで書かれたかを知れると量子トランジスタの仕組みも理解できるのだが（司会）。
◎観測する瞬間に異なる値を返す記憶素子でよくメカ技術を成立させたものである。
（司会）◎組み合わせ最適機だけで判断を行う場合の限界は何か指摘されているか。
（江井）◎すべてが組み合わせ最適化問題で記載できないことは、数学的にも証明されている。（内藤）◎センサーによる情報収集が量子コンピューターの機能をより有効にする可能性はないか。（江井）◎量子コンピューターのキャパの範囲であればセンサーは多いに越したことはない。
（内藤）◎量子コンピューターの記憶媒体はあり得るか。
（江井）◎ダイヤを用いた媒体が研究されている。２の 52 乗ぐらいまでのデータは記憶できるという論文がある。
（内藤）◎ノークローリング、その定義は盗聴が困難な通信技術である。量子コンピューターは計算途中ではコピー＆ペーストが難しい。
（内藤）第 7 回まちづくり Ai 研究会

2018 年 2 月 28 日

「AI と社会のデザイン」
講師
東京大学総合文化研究科・教養学部附属教育高度化機構特任講師
江間有沙氏※ＡＩ（Artificial Intelligence: 人工知能）
主な討議◎東京大学 江間先生から「AI と社会のデザイン」について伺います。IEEE の倫理検討に関与されたお立場からお話を伺います。
（司会）◎皆さん、人工知能をどう見ていますか。
（江間）◎計算が速い。
（森山）◎人間の脳の機能の外部化。
（木村）◎鉄腕アトム。
（佐伯）◎漠然と電卓の延長。
（守真弓）◎単なる複雑プログラムの延長線上のもの。
（守）◎知能と言っても考えていないのでは。
（鈴木）◎技術として捉えると効率化と最適解でのみ評価することになる。何かをやるための技術として価値があり、それをどのぐらいやれたかで評価することになる。
（江間）◎技術としての AI。例えば、AI にレンブラントの絵を覚えこませて、それに似たタッチの絵を作らせると識別できないほどに調和した並びの絵ができる（レンブラント・プロジェクト）。しかし、その作画の創造性はどのようなものか考えさせる。（江間）◎科学としての AI。それは AI で知性を再現する分野と考える。AI 研究は、「知性」を構築的に探索するため、チェスを指すことが「知性」であると考えられたらチェス AI の開発がされる。しかし、技術で達成可能な「知性」
は人間の「知性」とはみなされない。そのため、現在は「学習する」ということが人間らしい「知性」を持つものとして学習する機械などが人工知能技術として研究されている。しかし、それも機械にできるようになると、さらに汎用性の高い課題に対処できるのが「知性」を持つのではないかと再定義がされるため、汎用人工知能などの研究を進める研究者がいる。
（江間）◎将棋ソフトのように特化型の人工知能が活躍中である。（江間）◎汎用人工知能や超人工知能ができるかできないかは、人によって意見が分かれる。
（江間）◎技術としての AI は生活の中に入り込みはじめている。投資 AI、論文判読 AI（ＩＢＭワトソン）、映像判断で診断するような AI もあるが最後は人間が判断することになっている。（江間）◎AI の判断に AI 自身に責任を持たせる話もあるが、そのためには法的な枠組みが議論される必要がある。AI による事故をメーカーが責任を持つことは、メーカーの負担が増えるため、保険の仕組みなどと共に考える必要がある。
（江間）◎AI を既存のＩＣＴの延長として捉えても、プライバシー、セキュリティなど問題が既に発生している。機械学
習の問題としてはブラックボックス化の問題が起きている。また機械学習にバイアスがかかると公平性・透明性を失う。技術的には思考過程の説明の仕組みや緊急停止の仕組みが必要。
（江間）◎AI に入力されるデータ自体が、それぞれの時代やコミュニティの偏りを反映させて入力される。
（江間）◎データの偏りやアルゴリズムのバイアスによって偏見を加速させてしまう場合がある。データの偏りを補正できるとは限らない。例えば「母は父がバッグを忘れたことを怒った」「父は母がバッグを忘れたことを怒った」の

２つの文章を日本語から英語に翻訳する事例の紹介（山本一成）。父と母を入れ替えただけの文章だが、両方ともバッグが女性のものである（her bag）としている。父のバッグである可能性もあるが、his bag とはならない。
Bag は女性が持つものという学習がされている。この程度であればいいが、既存社会を教師データとする場合、
例えばＣＥＯなどはほぼ男性の写真しかでてこない時など、ＣＥＯは男性であるという学習がされてしまう可能性がある。これがデータの偏りの一例である。学び過ぎているから起きる誤解である。（江間）◎まだ生まれていない技術、例えばスーパーインテリジェンスの危険についての思考実験がしばし行われている。
LAWS（Lethal Autonomous Weapons Systems 自律型致死兵器）の開発は禁止すべきと議論されている（CCW
の枠組み）
。
（江間）
◎ブラジルのＧＩＳナビ、最短距離を進めることで危険地帯を通過してしまい事故にあったという事例があった。
ソフト上の改善をするためには、危険情報を誰かが耐え間なくアップする必要がある。（江間）◎AI の倫理を議論するときに、便宜上に 3 つに分類する。第一は、研究者倫理（研究不正や科学者の責任など）。
第二は AI の倫理（AI の社会的影響や原則の策定など）。第三は倫理的な Ai（AI 開発を通じて倫理のあり方を模索していく）。
（江間）◎2017 年２月に提示された人工知能学会の倫理指針は、ここでいう第一の研究者倫理で構成されている。一方で、第 9 条などは、人工知能にも倫理的な振る舞いを要求するなどの切り口がつけ加えられてもいる。（江間）◎サウジアラビアで人工知能搭載ロボットであるソフィアに市民権を与える話があった。
（江間）◎2016 年あたりから開発企業なども加わって AI の倫理について各方面から見解が示されるようになっていった。ベネフィットは人によって異なるが、AI がもたらすベネフィットに関する考察が大事である。危険を中心に考えてはならない。
（江間）◎1975 年アシロマ会議、遺伝子組み換えの危険を警告。AI についても同様の議論が行われている。大きな技術（核開発、遺伝子等）が生まれたときに必ず起きる危険に対する配慮と同じ配慮が AI にも必要である。法律家、国際関係の専門家、人文社会科学、人権問題の専門家による議論が活発。
（江間）◎日本の場合、AI に関してはリスクよりはベネフィットに関する議論が多い傾向がある。
（江間）◎日本の総務省 AI ネットワーク社会推進会議、AI 開発に注意すべき点。透明性、セキュリティ等 13 項目を審議。開発者。ユーザー同時にリテラシーを持つことの必要を議論。（江間）◎経済合理性ではなく Beyond GDP や Well-being に価値観を転換させるための議論も活発。（江間）◎価値観再構築の必要が主張され多くのネットワークが生まれている。（江間）◎中国の動向はその協調のネットワークの外にある。膨大な個人情報を用いた試みが行われた場合、無視できな
い存在となってくる。膨大なイスラム人口についても同様な重みがある。これらを捉える価値観等は必要と思わ
れる。
（江間）

◎AI の暗い面は、やはり否定できない。その議論は文科系畑の研究者の出番のように思う。開発に乗り出す技術
系の人は明るい面のみに着目したがる。
（司会）◎人工知能学会の表紙問題というのがあった。掃除機を擬人化した女性の絵が女性蔑視の印であり、そのような目線の研究者が AI を作っていいのか、と、批判があった。批判を受け止めて改善していける体制が好ましい。
（江間）◎「お帰りなさい AI」をフランス人に見せた時に女の子が籠（ゲートボックス）に入っているのが問題と指摘された。フランスで開発されたバディーは、形あるロボットとして同様の機能を持たせている。同じような機能を持つ道具であっても、社会的な環境やロボットの外見の設計によって受け入れられ方が異なる。（江間）◎AI のデモ映像に未来の先駆けを感じるか、人類の崩壊の始まりと見るか。
（司会）◎ユートピア、ディストピア、どちらも価値観によってそれぞれ見え方が違う。
（江間）◎都市計画プランニングには元々矛盾願望がある。時々で市民の願望が変わっていく。これをその都度コンピュ
ーターソフトが反映していたら、収束がいよいよなくなるのではないか。
（司会）◎AI は多様化して画一化する志向がある。フィルターバブル、同じ価値の人の間だけで溢れるような量の情報を共有して、異なるフィルターの人と分断が発生してしまう。
（司会）◎利害関係のある人の合意形成が都市計画では重要業務であるが、画一化、パターン化において AI は機能を発揮するが、少数意見のカスタマイズを取り込むのは苦手ではないが。
（佐伯）◎異なる価値観を無理に挿入する方法、例えば Amazon のリコメンデーションシステムを逆に作動させることで可能ではある。少数派の意見をクローズアップさせる結果にはなる。（江間）◎少数意見の紹介は何を紹介すべきかを判断する価値観が必要。人間がやらないとできないのではないか。（佐伯）◎ディストピア・シミュレーションを見せる力は AI にある。（木村）◎あくまでもサポートの機能として AI は使われるべきであろう。
（江間）◎機械が責任を持つ話があったが、技術系の研究者はそれについてどう考えているか。（司会）◎機械に責任を負わせるというより法的な枠組（仕組み）の形成と考えている。AI が暴走するのではないかという懸念を持つ人も多いため、システムを途中で止める技術に関しても同時に開発が進められている。
（江間）◎他の技術では、倫理についてテーマに上りにくいのに AI でなぜ倫理が話題に上ると思うか。また複数の価値観を俯瞰する AI が生まれないと合意形成に AI が寄与することはできないと思うが、その可能性はいかがか。
（江井）◎今までも倫理に関する議論はあった。情報倫理という考えは元々あった。今、AI の倫理が話題になるのは、AIがブームであることが主因と思う。もうひとつ、サイバー空間から物理空間に AI は重心を移し始めていることも原因であると思う。殺人ドローンのような話が現実の危険として現れている。倫理的な議論があって後に法整備も始まる。その意味で倫理の議論が今、必要である。また日本では倫理の議論が他の国に比べて少ないため、欧米の議論の輸入だけするのではなく、自ら何が問題なのかを考えていく必要がある。（江間）◎AI が判断に使われ、しかもそれが物理的な判断にも滲みだしている。機械と人の関係について日本はドラえもん文化の感覚もあり、一概に神経質にはならない。
（江井）◎決定ではなく、合意が求められている。IEEE は、プロセスの標準化を志向している。バイアスがないデータはないので、よりニュートラルな判断を生む努力がいる。
（江間）◎技術は無原則に発展する性向がある。AI はそれを助長させる力がある。
（司会）◎トリガーを引きさえすれば AI で戦争が始められるようになる。際限なく発展する流れを止める技術も生まれ得るのではないか。
（江間）◎アシモフのロボット三原則も古典的なブレーキの警告であった。（司会）◎基準化には、ロボット三原則における「危害」の定義を詳細にしてやる必要がある。（江間）◎超知能（スーパーインテリジェンス）の可能性は。（司会）◎すぐに実現できる話ではないことを前提として、多くの研究者が研究している。（江間）◎人間の内部矛盾を AI が増幅させることはあっても、解決させるかどうかは、矛盾処理のループを人間が考え付くかどうかにかかっていると考えたい。
（司会）◎AI を道具として位置付け、擬人化しすぎないことが重要と思う。（江間）