Acknowledgement and COI…

第38回メタ科学技術研究ワークショップ

JST社会技術開発センター(RISTEX):
戦略的創造研究推進事業（社会技術研究開発）「人と情報のエコシステム」研究開発領域『情報技術・分子ロボティクスを対象とした議題共創のためのリアルタイム・テクノロジーアセスメントの構築』
Co‐Creation and Communication for Real‐Time Technology
Assessment on Information Technology and Molecular Robotics：（CoRTTA：PJ代表・標葉隆馬）

先端科学のデュアルユース言説に見る境界設定作業河村賢
成城大学「科学技術と社会」研究センター博士研究員
Ken KAWAMURA, PhD in Sociology
kawamura0823@gmail.com＜プロジェクトメンバー＞
田中幹人（早稲田大）、吉澤剛（大阪大）、吉永大祐（早稲田大）、河村賢（成城大）、Special Thanks to:
小長谷明彦（東京工業大）、富田誠（東海大学）

1

2

はじめに：ポストELSI状況における科学論者の役割

分子ロボット技術とは何か• 1990年代以来のDNA分子コンピューティングなどのアイディアに基づく。DNAを使った論理回路、化学反応系の制御が可能に• ELSI（Ethical, Legal, Social Implication）プログラムヒトゲノム計画の一部として始まってから30年近く1• 知覚（センシング）・思考（コンピューティング）・運動（ロボティクス） というロボッ
トを構成する三つの機能をDNAやRNAを素材として用いることで実現する3• 本プロジェクトのベースであるリアルタイム・テクノロジーアセスメント（RTTA）という考え方はELSIの批判的継承を目指す• 「生物ではないが生体分子から構成され自律的に動作しうる存在」を作り出す
技術4⇒リスクのなかでもデュアルユースという最も明白なものについて①
技術の発展段階において②科学者とともに検討を行う• 分子ロボ研究者が行う＜この技術のリスク＞を確定するバウンダリー
ワーク2の存在を、フィールドワークとインタビュー調査から解明

1 Sheila. Jasanoff, 2007, Design on Nature: Science and Democracy in Europe and the United States, Princeton University Press.
2 Thomas F. Gieryn, 1983, “Boundary‐Work and the Demarcation of Science from Non‐Science: Strains and Interests in Professional
Ideologies of Scientists,” American Sociological Review 48(6), p. 782. ギエリンがバウンダリーワーク と呼んだものは科学と非科学の境界を区分するために科学者が様々な特徴を科学に帰すという活動だったのに対し、ここでは科学の活動が生み出す本質的なリスクと非本質的・偶然的な区別するためにそうした帰属を行うという活動を指すために（ギエリンの概念を拡張的に）用いている。33 http://konagaya‐lab.com/jp/?page_id=389
4 2018年3月6日フィールドノートより.

3

4

１ ELSI、ポストELSI、そしてデュアルユース

古くて新しいデュアルユース問題

4ELSI• 科学技術の兵器利用が破滅的帰結をもたらすことへの「罪の意識」はマンハッタン計画に参加し、後にパグウォッシュ会議を組織した物理学者Joseph Rotblatに見られる6
Real‐Time
TechnologyAssessment

UpstreamEngagement

Responsible
Innovation• 冷戦期の核兵器廃絶・軍縮の文脈において、民間技術としても軍事技術としても用いられ得る科学技術（デュアルユース）の問題は論じられ続けてきた• ELSIへの批判＝科学者と科学論者（社会科学者）のあまりに強い分業（科学者が作り出した「帰結」を科学論者が「評価する」）の想定• 代替案として提示されたコンセプトはいずれも①科学論者が介入するタイミングを早める②応用・帰結の強調を緩める点を強調55 Andrew S Balmer, Jane Calvert et. al., 2015, “Taking Roles in Interdisciplinary Collaborations: Reflections on Working in
Post‐ELSI Spaces in the UK Synthetic Biology Community,” Science & Technology Studies 28(3), p. 7.

56 John L. Finney, 2007, “Dual Use: Can We Learn from the Physicists’ Experience? A Personal View”p.67
7 Committee on Research Standards and Practices to Prevent the Destructive Application of Biotechnology 2004, p.13.

5661

古くて新しいデュアルユース問題

デュアルユースの狭い解釈／広い解釈

But,…

• 現在のデュアルユース概念における論者ごとの差異• アメリカNRC（National Research Council）は、9.11テロ後MITのジェラード・フィンクを委員長とした諮問委を発足＆2004年には『テロリズムの時代における生命工学研究』（原題： Biotechnology
Research in an Age of Terrorism）を発表

I. WWII後の科学者の責任論との連続性を重視する論者（例えば物理学者のJohn L. Finney）は「兵器への転用可能性」一般を問題視
II. 9.11テロ以降の展開を重視するJonathan Tuckerは、テクノロジーがもたらす害一般ではなく「国際人道法・武力紛争法に代表される現行の国際法体制への意図的な侵犯」こそが問題となる悪用(misuse)とする8⇒デュアルユースは「同じ技術が人類の利益のため合法的に使用される可能性と、バイオテロリズムに悪用（misuse）される可能性を包含する」と（狭く）再定式化7

 科学者自身のリスクの境界はどのように引かれているか？

77 Committee on Research Standards and Practices to Prevent the Destructive Application of Biotechnology 2004, p.13.

8 Jonathan B Tucker., eds., 2012, Innovation, Dual Use and Security, MIT Press, p.9.

78

２ 科学者たちの懸念とデュアルユース論の共振と差異

今回のインタビュー対象

 「ゲノム細胞工学・人口細胞・非天然生物学」に対する懸案事項（バイオセーフティやデュアルユース・生命倫理・テロ対策を含めた社会的影響）については（……）分子ロボットもほぼ共通の（ある意味より強い）倫理的懸念事項を持つ」という発言9
 特に分子ロボットが生物兵器条約（BWC）の規制対象である生物剤（Biological Agent）に該当する可能性を憂慮⇔現状はむしろCWC（化学兵器条約）Science Advisory Boardが分子ロボットに関心を持っている（特にドラッグデリバリー・システム）109 2018年3月6日フィールドノートより．
10 Report of the Scientific Advisory Board on Developments in Science and Technology for the 4thSpecial Session of the conference of the states parties to review the operation of the chemical weapons convention, 2018, p.23.

現在の研究領域

出身研究領域研究者A

分子ロボット

情報科学・情報工学

研究者B

合成生物学

合成生物学・細胞生物学

研究者C

生体生命情報学・知覚情報処理・ 航空工学
知能ロボティクス

1. 計算可能性／ブラックボックス
2. 基礎科学／応用科学の区別

109910

インタビューデータのまとめ

科学者によるリスクのバウンダリーワークが持つ含意• 科学者がリスクについて考える独自のやり方があることは従来も指摘• 科学者自身の考えるデュアルユースの境界

e.g. Finneyの指摘する中立性モデル：「科学は中立的なものだがそれをどのようにして使うかは社会の側が決める」

 ELSIに関する知識の非対称性そのものが問題なのではない⇒分子ロボット学者が想定するリスクはそこまでシンプルではない 技術の悪用可能性を（決して）認めないわけでもない• 科学者自身が悪用のリスクに意識的であり責任を感じている• 技術特性を語る際繰り返し登場する参照点＝隣接分野との比較
 合成生物ではできなかったことが分子ロボットではできる
 従来の工学ではできなかったことが分子ロボットではできる⇒ どの分野を参照点とするかどうかで自らの研究分野を特徴づけるやり方は――特に萌芽領域においては――大きく異なる• 自らの技術が隣接領域と比較して持つ優位性に随伴するリスクこ
そを中心的なものとして捉えている⇒ 独自の「リスクの切り分け方」の存在を前提とした（科学者との）リスク
コミュニケーション・科学政策の方法を模索しなくてはならない

1515816162