「学ぼう！活かそう！がんゲノム医療」上級編④：全ゲノム解析とELSI（倫理的・法的・社会的課題）
動画 YouTube
https://www.youtube.com/watch?v=gIWvykG3Hxo
学会誌『場の科学』通巻第 5 号 Vol.2, No.2(2022)
【研究論文 2】先端科学技術の不確実性政策における「法」と「倫理」の隣接点
・・不確実性マネジメントにおける「ナッジ」によるナラティブ・アプローチの観点から・・
【中山 敬太】
キーワード：＃先端科学技術、＃不確実性政策、＃ナッジ、＃ナラティブ、＃予防原則
（要旨）先端科学技術に関する「ELSI」が研究開発段階から要請される状況下において、科学技術をめぐる諸問題がより高度化および複雑化する中で、単一の学問領域だけで課題解決をすることは難しくなっている。そこで、本稿では、先端科学技術の性質上、リスク政策ではなく不確実性政策における「法(Legal)」と「倫理(Ethical)」の隣接点に関して、「自主管理」・「自主規制」がその要素を構成し得ることを新たに示した。
その上で、先端科学技術に関する不確実性マネジメントにおいて、「法」と「倫理」の双方からの「ナッジ」によるナラティブ・アプローチが隣接点に向けた 1つの手段として有効であることを示した。
https://www.jstage.jst.go.jp/article/jasccorg/2/2/2_52/_pdf/-char/ja
第4章 “終末”を避けるために何ができるか
-
-
-
-
-
-
-
- -
-
-
-
-
-
-
『人類滅亡2つのシナリオ―AIと遺伝子操作が悪用された未来』
小川和也／著 朝日新書 2023年発行
画期的なテクノロジーほど、暗転したときのリスクは大きい。特にAIとゲノム編集技術は強力で、取扱いを誤れば、人類に破滅をもたらす因子となりうる。「制度設計の不備」と「科学への欲望」がもたらす、人類最悪のシナリオとは。
はじめに より
本書における「人類滅亡」は、特に最後の3つに焦点を当てている。
近年、「人間」「人類」の解釈は各分野の専門家の間でも揺れており、「ポストヒューマン」を人間とみなすか否かについての議論も分かれる。それこそが、AIやゲノムテクノロジーが人類の概念にまで影響を与え始めた証でもある。
まだ多くの議論の余地は残されているが、本書では、あえて「現生人類としてのホモ・サピエンスが甚だしく遺伝子改変された状態」を種の延長線上に置かず、「現生人類の終焉」を人類滅亡と解釈することをシナリオの前提とした。それくらいシビアに受け止めるべき分岐点に人類が立たされていると認識し、戒めとするためだ。
こうした定義と前提をもとに、本書では、歴史上の出来事や状況を踏まえ、未来の事象がどう変わっていくかを調査・推論する学問分野である未来学の視点で、最悪な未来＝人類滅亡までのプロセスを示していく。その上で、最悪な未来を回避するためのアプローチを提案したい。それが本書執筆の動機となっている。
AIは「人工」であり、ゲノムテクノロジーは「操作」である。結局は、いずれも人間が主語だ。未来に人類の運命を委ねるのではなく、人類がより良い未来を作らなければならない。
本書で提示するシナリオを、未来で実現させてはならない。
たとえ、一部の人間の悪意、悪意なき悪意であっても、それが束になり始めると、制御する難度が上がってしまう。その束を作らず、人類滅亡のシナリオを絵空事で終わらせるためにも、どうか多くの人に読んでいただきたい。
第4章 “終末”を避けるために何ができるか より
利用価値が大きい先端科学技術をめぐっては、それを利用する様々な動機と目的がある。その中には、規制の穴を探したり、強制力を伴う禁止を踏み越えていく悪用も含まれる。環境や立場が変われば、法律、倫理、価値観、善悪、正論も変わる。それが前提である以上、滑り坂理論などに基づく最悪の未来を理論的に完全払拭することはできない。
最悪な未来を回避するためには、法律や倫理といった要素が一体となって回避の要件を満たさなければならないが、全人類が足並みを揃えて回避の各要件を満たす方法は確立しておらず、万全なシステムもない。
残念ながら、いまもどこかの個人、組織、国による方向性の差異が軋轢（あつれき）を生み、最悪の事態に至るリスクを抱えている。ゲノム編集や人工知能の技術的性質を鑑みると、一体感のない世界の中で、誰かが利用の仕方を誤ったときは、人類滅亡の滑り坂を滑り始める。
人類の”終末”を避けるために、回避のアプローチを考えたい。
最悪な未来を作り出さない構造
この上ない善、「最高善」。倫理哲学における、善悪を判定する究極の基準となる最高の道徳的理想としての最高の善は、古代ギリシャの哲学者であるアリストテレスをはじまりとして、様々なものが説かれてきた。アリストテレスの著作『政治学』では、人類最高の共同体である国家の目的は最高善であるとし、ドイツの哲学者であるカントは、最高善を実現するためには、無限の道徳的努力を必要とするため、その条件として魂の不死が要請されると考えた。
・
現代の応用倫理学、生命倫理や医療倫理における課題解決においては、これらの倫理思想がそれぞれ適度に勘案される場合が多い。しかし、社会や環境、立場によって、善悪の基準も適用する倫理も異なり、普遍性に乏しい。この不一致性、不安定感が根本的な問題であり、先端科学技術の悪用につながる背景となる。最高善という理想も、その問題があるからこそ、果てしなき理想なのだとも言える。
「戦争は悲劇である」「デザイナーベビーは倫理的に許されない」という認識はあったとしても、人間同士の善悪と倫理観の不一致により、世界のどこかで戦争やデザイナーベビーが存在してしまうのなら、多様な持論がすれ違うことを前提に、最悪の未来を作りださないためのアプローチを思案するしかない。
そのためには、倫理のさらなる探究だけではなく、研究者の内発的道徳、教育、そして法律、規制のような外的規範を相互補完させ、それぞれ単体の効力の限界をカバーし合うことだ。
第2章で触れたゲノム編集のDIYバイオ問題などを踏まえると、研究者や医療関係者以外の一般市民も直接的あるいは間接的なステークホルダーとなるため、対象についても広範に検討しなければならない。
最悪な未来を回避するための制度設計 ①先端科学技術のELSIのアプローチ
倫理的・法的・社会的課題の連動
人類が厳しい自然界を生き抜き、さらに発展しようとする本能を持つ限り、新領域の「先端科学技術」を探究することになる。新領域は得てして未知数である。新領域であればあるほど、良い方に転んでも悪い方に転んでも、予見不足に陥りやすい。
米国の経済学者であるフランク・ナイトは「不確実性という概念とリスクの違い」を説いたが、それによれば、「測定可能な不確実性（＝本来のリスク）」と「測定不可能な不確実性（＝真の不確実性）に区別される。ゲノム編集や人工知能には、本来のリスクだけではなく、真の不確実性も含まれていることを認識しておかなければならない。
先端科学技術が及ぼし得る社会的悪影響に関しては、自然科学に加えて社会科学の観点から「ELSI（Ethical, Legal, and Social Issues）：倫理的・法的・社会的課題」が重要視されている。
「ELSI」という全体の概念、さらには「倫理的（Ethical）」「法的（Legal）」「社会的（Social）」といった個別課題の検討については、様々な科学技術分野で多くの検討や研究が存在する。ここからは「先端科学技術の不確実性政策における『法』と『倫理』の隣接点」（『場の科学』通巻第5号 Vol2 No2 著：中山敬太）の論を借りつつ、先端科学技術を正しく扱うためのアプローチについて解説していく。
先端科学技術の高度化、複雑化、高速化が著しくなり、特にゲノム編集や人工知能などは人間そのものに過激な影響をもたらす余地が大きい。そのため、あとの祭りにならないように研究の早期段階から倫理的・法的・社会的課題からも適切な対応を行う必要がある。
たとえば、ゲノム編集であれば、技術が未熟で安全性に懸念があること、ゲノム編集を受ける個体や将来の世代への影響が未知であること、治療とエンハンスメント（増強）との境界が曖昧になりやすいこと、社会的格差が生まれる可能性があることなど、複数の科学的・倫理的・法的・社会的課題が未解決のままである。
先述した2015年12月に行われたヒトゲノム編集国際サミットで採決された声明を、改めて確認したい。声明では、ヒトの生殖細胞系列へのゲノム編集は次のような6つの問題をもたらすと述べている。
1．オフターゲットやモザイクといった技術上の問題
2．遺伝子改変がもたらす有害な結果を予測する困難
3．個人のみならず将来の世代への影響を考える義務
4．人間集団にいったん導入した改変を元に戻すのは困難
5．恒久的エンハンスメントによる差別や強制
6．人間の進化を意図的に変更することについての道徳的・倫理的検討
1、2、4は科学技術的な問題、3、5、6は倫理的及び社会的な問題である。これらの問題のひとつとっても、「ELSI」からの複合的なアプローチが必要であることがわかる。
一方で、科学技術に伴う問題は科学技術的におのずと解決されるもので、倫理的分析は科学技術にとっては不必要だとする主張もあり、「ELSI」の捉え方自体にも温度差がある。
先端科学技術における課題の複雑さを考慮すると、「ELSI」については、それぞれの特性を活かしながら、横断的なアプローチが必要となる。
たとえば、法律と倫理は、法律で不十分な要素を倫理で補い、倫理で不十分な要素を法律が補う補完関係にあると考えられている。
・
ここからは、不確実性を伴う先端科学技術を人類滅亡の原因へと転落させないために、法律、倫理の役割と、その連動のアプローチを検討していく。
