科学・技術と社会の相互作用から、問いを作り出す〜江間有沙・東京大学特任講師

人工知能が実際に社会の中に取り入れられる現場を訪れ、AIと社会の関わり方を議論するAIRの活動に関心が集まっている。そうした科学・技術と社会の相互作用を議論する取り組みは、AIに限らず様々な研究領域に広がりを見せる。その中心で議論の場作りに貢献しているのが、STSの研究を行う江間さんだ。文と理、研究と研究の垣根を越えたユニークな取り組みについて、お話を伺った。

世界の「切り取り方」を再定義するSTS

Q:研究内容について教えてください。

研究領域は「STS」と呼ばれる分野です。STSは「Science & Technology Studies」と「Science, Technology & Society」、つまり「科学技術論」と「科学・技術と社会」という二つの側面があります。前者は、科学技術の哲学や歴史、人類学、社会学などを学問として深めていくこと、後者は科学コミュニケーションや科学技術政策など運動・活動として領域をつないでいくことが強調されます。つまりSTSは理論と実践という二つが問題設定の段階から混ざり合っている領域だと個人的には理解しています。私は主に情報技術を対象としていますが、原子力発電などのエネルギー問題、再生医療や遺伝子組換え作物、研究公正など科学と社会に関する論点を幅広く扱っている分野です。

また、STSは「そもそも論」を行なうメタ学問だとも思っています。多様化し、たこつぼ化してしまっている領域に対し、「そもそも何が目的なのか」と問います。ある意味、一歩引いて今までの「ものの見方」をずらす視点を提供できます。

Q:いわば、定義しなおす学問なのでしょうか。

そうですね。STSにおける重要な概念に「再帰性」と訳される「Reflexivity」があります。問題設定の枠組みや現在当たり前だと思われていることを問いかける。それを自分の研究やSTSという学問領域そのものにも行うのです。「STSとはこういうものだ」と決めつけて思考停止せず、自分の立ち位置や扱っている問題設定が研究に与える影響を問い続ける学問なので、学生時代からずっと仲間と一緒にSTSって何だろうということを考えています。

「扱う対象や領域について考え続ける」姿勢を持つという点では、AI（Artificial Intelligence: 人工知能）とSTSは似ている面があると思います。AIという研究領域では人間らしく振舞うもの、知的なものを作りたいという欲求があります。そのために「知的な振る舞い」や「心を持つ」という状態を定義して構成的に作ろうとします。でも機械で実現できてしまうことは人間的ではない。だから新たに「知的」や「心」を定義しなおして取り組みます。そういうフロンティア精神にあふれた領域、既存の定義に縛られない領域なので、80年代、00年代、そして現代でいわゆるAIと言われているものの目的やできることは変化します。

Q:「AI」は、漠然とした概念だったのですね。

そうですね。でもだからこそAI研究者と話していると面白いです。技術の話をしていても、その人が何を知的だと思っているかといった哲学的な話になったりします。そのため技術だけではなく、技術の設計論や社会の問題設定をどうすればよいかなど、根源的なことを考えなければならないという人も多いです。

STSも従来とは違った見方で世界を切り取り、問題を再定義します。そうすることによって新たに考えるべき論点が浮かび上がってきます。
例えば弁護士や裁判官の方とお話させていただくときに、雑談で「AI裁判官」の可能性をネタにすることがあります。現在、弁護士の調査をサポートする技術はすでに開発され米国などでは法廷で使われています。そんな中、AIそのものが裁判官となって判決を下すことはありうるのか。そういうネタを振ると「そもそも裁判とは何なのか」という話になります。色々な方とお話させていただく中で、印象に残っているのは、「裁判というのは納得をするための場である」という言葉です。与えるデータさえちゃんとしていれば、AI裁判官のほうが公平な判断ができるのではという可能性もあります。しかし証拠をAIに与えて1秒で判決がでて納得できるような案件だったら、そもそも裁判まで行きません。また、裁判とは納得ができなかった場合は証拠を集めれば再審ができる、場合によってはヒューマンエラーへの対応も組み込んでいるシステムです。

人と機械は同じ処理スピードを持っているわけではありません。人はある事実を受け入れるには時間がかかることもあります。その意味では、医療診断なども、「事実」はどうあれ、時間という要素をどう機械に組み込んでいくのか、また結果の伝え方の信頼性を高めるインタフェースや身体性をどのようにデザインするのかが大事になります。あるいは、あえてそこには機械を介在させないとするデザインもあるかもしれません。人と機械と環境の相互作用をどうとらえるかを、そもそもの目的に立ち返って考える必要があります。

ただ、もし多くの人々が裁判というのはゲームの審判のように1秒で白黒つける場であってほしいと望むようになったらAI裁判官の可能性はでてきます。実際、現在スポーツの世界では機械判定が主流になってきています。だからこそ、裁判という仕組みを支えている原理、理念や役割について改めて考え、AIのサポートを取り入れるところは取り入れ、人間がやるべき仕事として譲れないことはきちんと社会と対話することが必要になってきます。
「AIが仕事を奪う」とささやかれている現在、これは裁判官だけに限る問いではありません。AI裁判官は極端な事例で、そもそも判決などの意思決定をAIが下せるのかという技術的な問題もあります。しかし、現在の社会が拠り所としている価値は何なのか、それは変化するのだろうかと考える１つの興味深い思考実験です。
このようにAIと人間や社会の関係を考えるにあたっては、単にある人間の役割を機械に置き換えてうまくいくように調整するだけではなく、そもそも論にたちかえる必要があります。目的や役割、仕組みの再定義、再編成を行なったうえで、それが不公平や不正義を再生産、あるいは新たに生じさせないよう考えを巡らせなければなりません。いうのは簡単ですが、難しいことです。ただ、単なる思考実験だけで終わらせるのではなく、身近なところから、いろいろな人を巻き込める問いを作っていこうというのがAIRの活動です。

未来だけでなく過去の視点からもAIを考えるAIR

AIRはAcceptable Intelligence with Responsibilityの頭文字をとったもので、京都で2014年に始まった研究グループです。これからの時代がどうなっていくのか、これからAIと人間がどのように関わっていくべきかといった地に足のついた議論をしよう。海外や東京で行なわれている議論のようにスピードが速く政策にも近いものの「オルタナティブでいよう」という考えで始動しました。一方で、海外にも情報発信していきたいという思いもあって英語の名前になりました。

地に足の着いた議論ということで、AIRは現在から手の届く範囲までを見据えています。また現場性を重視して、実際に「AIっぽいもの」が導入されている場所にみんなでフィールド調査に行きます。ユーザーが実際にどのように機械やロボットを扱っているのか、あるいは開発者が何を目的として、どういう機能が必要だと思っているのかなどを、異分野の人たちとの対話から引き出します。AIRは哲学・倫理学、人類学、情報系、コミュニケーションや政策の研究者など異分野からなるグループです。異分野間の対話から新たに考えるべき論点が浮かび上がってきます。ですから、現場の問題を解決したり調整したりするというよりは、様々な視点から考える論点や問いを作り出していくのが目的です。

現在あるいは近未来を見据えた論点を考えるだけではなく、過去を振り返る取り組みも行なっています。「AIと社会」というと、未来が語られることが多いですが、プライバシーや自動運転の問題は昔から議論されてきました。その論点が過去から現在まできちんとつながっていないのではないかという考えから、1980年代あたりのことを聞き取るオーラルヒストリー調査を始めました。また、昔はどのような問題意識があり、どのように異分野間の研究が行われていたのかを聞き取ることも参考になります。先ほどSTSでは「再帰性」が大事だとお話しましたが、AIRでも自分たちのネットワークの在り方や問題設定の作り方はこれでいいのか、ということを常に考えています。そんなとき、過去のプロジェクトの話や経験談はとても参考になります。

文理の垣根を越えて議論する「生循環」

異分野間の対話としては、「生循環」研究会のメンバーでもあります。生循環（Biocyclology）は造語です。生命科学の研究者と話をしていた時に「自分たちは生命とは何か、あるいは生きるとはどういうことかを知りたくて研究を始めたのに、その研究は役に立つのかとか実用的な面や成果ばかりに注目が集まってしまう」という問題意識に共感しました。そこで「生命とは何か」を考える場があってもいいよね、という話になりました。そうすると「生命とは何か」を考えるのは、そもそも生命科学の研究者だけでなくてもいいわけです。ここでも「そもそも」ですね。そこで、言語学や東洋史の研究者も交えて話しているうちに、「一個体の生命を生きながらえさせる」ものとして生命をとらえるのではなく、もう少し長いスパンの中、「生きては死ぬ繰り返し」の中で生命を捉えてはどうかという問いが生まれました。それをメンバーの一人が「生循環」と名付けました。

研究会は年に3〜4回開催され、「循環する生命」といったオルタナティブなコンセプトを打ち出して、新しい生命観を議論します。色んな分野の研究者が自分なりに「生循環」を定義し、自分の研究領域に半ば無理やりに引き寄せて異分野の人たちに紹介する。誰も「生循環」の専門家ではないわけですから、逆説的に誰もが自分の考える「生循環」の専門家になります。このような議論を通して、異分野で共通する論点を見つけ、自分の研究領域を違う角度から見つめるきっかけになれば面白いと思います。

Q:全く異分野同士の議論となりますが、成り立つのですか。

成り立ちます。「議論」をどう定義するかにもよりますが、質問が全くないということには、少なくともAIRも生循環もなっていません。むしろ互いの分野を知らないからこそ素直に「教えてください」といえるのかなと思います。また、「異分野の考えに着想を得て、新しい研究テーマが見つかるかも」といった動機を持っている人が集まっているのもあるかもしれません。

私は異分野格闘技に参加するのもセッティングするのも好きなのですが、興味はあるけれどそういう場が身近にない、時間がない、という人もいると思います。自分が持っている思い込みや見方をちょっとずらしてみるツールはないかなと思って、東京大学の同僚たちと作ったのが、nocobonというゲームです。なぞなぞのようなもので、出題者に対して「はい」か「いいえ」で答えられる質問をしていきます。数人くらいで質疑応答を繰り返していくと、少しずつ答えに近づけるようになっています。例えば、「ある人がPM2.5を吸いにいくという。にもかかわらず、とても嬉しそうだった。それはなぜか」と問題があります。種明かしをしてしまうと、この答えは「森林浴に行くことだから」です。実はPM2.5とは「粒径2.5マイクロメートル以下の粒子状物質」という定義であって、それそのものが健康被害をもたらすものという定義ではないのです。しかし私たちが普段新聞やニュースの報道で「PM2.5」と聞くと、それ自体が悪いものであるかのような印象を受けます。

ちなみにこのPM2.5は京都大学の白眉センターという学際的なセンターの合宿中で話題になったものでした。ちょうどnocobonカードのアイディアだしをしているときだったので、「思い込み」という点ではこのゲームにぴったりだ！と思って入れました。こうやって、いろんな人の話を聞いていると、巡り巡って自分の研究のネタにもなったりします。

nocobonの一例。

垣根を越えるプラットフォーム作りに奔走する

いわば、異分野間対話の組織作り、場作り、ツール作りを行なっています。もちろん異分野との対話に興味がない人、必要がないと思っている人もいると思います。また、異分野間コミュニケーションは楽しいだけではないと思っています。コミュニケーションする前に信頼関係が成立してから議論に移らないと、「あの人の話が嫌い、だからあの人も嫌い」と人格否定のような方向に進んでいってしまうことがあり、それはもったいないし、辛いだけです。なので、対話をする前に、まず会話ができて信頼関係があることが大事だと思っています。対話というのは、相手の発言を聞く姿勢ができているということで、それには時間がかかることがあります。でも価値が多様化してたこつぼ化している現在だからこそ、対話が必要とされているのかなとも思います。

そんな中、色々な分野の人たちが集まる場には、何が必要なのか、どういうアジェンダセッティングをすればいいのかを考えています。一つの方法として、「みんなが同じ答えにたどり着けるようにしよう」「問題を解決しよう」といった設定の仕方があると思います。しかし、それよりも私たちは「みんなが同じように取り組みたいと考える問いはどういったものか」を考えたいのです。そのための考え方やアプローチは一人一人バラバラでもよいと思います。むしろみんなが面白いと感じる問い、それについて考えたいと思える問いを作って、そのための対話の場を用意します。

Q:各研究をオープンリソースのように共有することが目標なのでしょうか。

オープンにするというよりは、自分の研究領域を広げ、様々な分野の人と対話し議論できる場やきっかけを作れたらいいなと思っています。そこから何らかのアウトプットがでてきたらもちろん素晴らしいです。でも、そこでの対話プロセスが各々に何かのプラスの影響を与えるのであれば、それでよいと思っています。それが、もしかしたら何十年後かに何かの成果につながればいいなと、大きなスパンで見ています。すぐ結果を出すことを目指すのは、この活動の趣旨と合ってはいないので。むしろそういう現在の風潮のオルタナティブとして活動はスタートしています。

Q:江間さんの役割は、皆様が議論できる「場」作りなのですね。

そうですね。「場」を作るのは目的でもあるけれど手段でもあります。近年では、価値は多様であればあるほどよいものだとされる一方で、価値がたこつぼ化しています。色んな価値が点在し、それぞれつながらずに存在している状況になっているような気がするのです。それは研究分野にも当てはまります。その価値同士、分野同士が対話できれば、もっと面白い価値や研究が出てくるのではないのかなと思っています。

そういう場を探して研究するのではなく、自分で作ってしまえ、という点では、場づくりは私が研究を行うための手段、ですね。その点では理論と実践をうまくフィードバックさせたいと思っています。同時に、かかわってくれる人たち自身にもフィードバックがあって面白がってほしいという、場づくり自体の目的もあります。そのためには議論から出てきたことをまとめ、編集するマネジメント的な役目もあるかもしれません。

以前、作家の編集者さんとお話させていただいたときに、「江間さんは、こっち（編集者）側に近いよね」と言われたことがありました。でも編集するには協同してくれる人が不可欠で、私は仲間に非常に恵まれていると感じます。周囲には様々な分野で面白い考えをもった人たちがいます。「この人とこの人をつなげたら絶対に面白い」と思ったら、実際に橋渡しをできる環境にいるのです。また、分野は違えど、親和性の高い考えをもっているのに、「通訳」がいないがために交流がないといったこともあります。その場合、私がその間に入り、初歩的な質問をしたり、言葉を翻訳したりすることで、場がうまくまわるととても楽しいのです。何より私が色々な研究の話を聞くことが大好きなので。

そうした作業が文と理をまたぐことにつながっているのかもしれません。でもそれは、文と理に限ったことではないと思います。時には理と理、理と工の場合もあるでしょうし、下手をしたら同じ分野の中でも話が通じない状況もあります。人間とは何か、真理とは何かといった根源的な問いをもつ分野同士は共通するものがあるので、意外と理学と文学の方が、話が通じることもあります。なので、単純に文理の差があるという問題ではないように感じます。

Q:そうした学問同士の相互関係も明らかにしたいという狙いがあるのでしょうか。

明らかにしたいですね。異分野の人たちの会話から面白いものが生まれてきたらいいですね。そのための事例形成や方法論にまでたどり着けたらなと思いますし、面白い研究をしている人たちが共通の言葉で話すお手伝いができるのはとても重要なことだと思います。ただ最近、皆さんお忙しくてそんな贅沢な時間をもつことができない場合も多いです。また大学などの研究機関では、そうしたことをする意義や体力がなくなってきてしまっているようにも感じます。そんな中だからこそ、大学の役割とはそもそもなんだろうか、とかいったことをよく仲間内で話をしています。

異分野交流は、研究に何をもたらすか？

Q:AIR設立のきっかけとなったのは人工知能学会誌の「表紙問題」だったそうですが、問題となった表紙絵も、前知識なしに見たら問題を感じない人も多いと思います。異分野間の議論を経験していくと、こうした潜在的な問題に気付きやすくなるのでしょうか。

議論を重ねていればそうした直感が得られるかどうかは正直分かりません。たこつぼ化している中では、他の人の意見や価値観の違いは分かりにくくなっていると思うのです。でも日常生活においても、自分と考えの違う人が身近にいると「自分は面白いと思うけど、あの人が見たら文句を言いそうだ」といった直感的な気づきを得ることがあると思います。そこに、もっと気付けるような仕組みをAIRとしても作っていきたいと考えています。そこではやはり異分野や異文化の人とどれだけ関わった経験があるかが効いてくると思います。

Q:異分野同士で対話をしたいと考えたときに、そうした経験があることによって、最初の一歩がスムーズに踏み出せるということでしょうか。

そう思います。あとは、異分野だからこそ、相手の話を聞くことができることもあると思います。だから対話の場があることはマイナスではなく、むしろ全く違う分野の人から素朴な質問をもらうことで自分自身にとっても考えさせられるよいきっかけになります。改めて自分の立ち位置を確認する意味でも、異分野同士の対話は重要だと思っています。

あと、面白いなと思ったのは信頼関係ができると、異分野だからこそ非常に和気あいあいとしたよい雰囲気になることもあります。京都大学の白眉センターにいたとき、このことに関して雑談する機会があったのですが、「直接的なライバルがいないからではないか」という人がいて、なるほど、と思いました。違う分野だからこそ、例えば賞をとったときとかも嫉妬とかなく素直に「すごいね」と賞賛できることもあるのかなと。また、直接的に業績を争うライバルではないから思い付きレベルでもアイディアを共有したり、逆にその分野が抱えている悩みとかを相談できたりするところもあるように思います。

Q:他の人に知識を与えるだけでなく、自分自身のフィードバックの効果を期待してAIRや生循環に参加されている方が多いのでしょうか。

そのために関わってくれている人も多いのではないかと思います。AIRや生循環に行けば、全然分野は違うが議論や対話が成り立つ程度には知識をもった人たちがいる。そうした信頼があり、安心して議論ができる場は貴重だと思います。最近は「安心して炎上できる場」を作りたいです。「賛否両論あるかもしれないけれど面白そうなネタ」を安心して議論するためには、多少炎上しても大丈夫なくらい頑丈な下地を作らなければいけないと考えています。さらに、そうした活動のプロセスを記述し、事例として可視化できるかも重要です。それは自分の研究として取り組んでいきたいと考えています。
日本には、独自の場作りが必要

Q:表紙問題は海外でも記事に取り上げられましたが、海外と日本とで議論の違いはあるのでしょうか。

表紙問題に限らずAIと社会に関する議論は、欧米と日本では内容にそれほど違いはないと思います。違いといえば議論の中身ではなく、どういう枠組みで議論しているか、にあるかもしれません。欧米では、FLIやFHIのように議論をする研究機関が、情報系だけではなく倫理や哲学などの人文学や弁護士・企業などの実務家を含んでいるのが特徴的です。また、場合によってはそのような機関が情報系ではなく、人文・社会学系の研究所の下に設置されていたりします。

日本でも近年AIに関する研究会や政府機関の委員会、研究機関が乱立しており、省庁の委員会では異分野の専門家がかかわっています。ただ、研究機関として情報系以外の研究者や実務家を正規のポストとして長期的に雇い、機関内での対話を促進していこうという事例は、あまり見られないように思います。そのため慶應義塾大学SFC研究所が研究所内の横断的・融合的な組織として開設した「AI社会共創ラボ」や、理化学研究所の革新知能統合研究センター（AIPセンター）の「社会における人工知能研究グループ」などが、今後グループ内外でどのような活動を展開していくのか期待しています。

また、枠組みだけではなく、概念を作り出して普及させることも欧米は上手だなと思います。例えば、フランスなどにおいてはデータをどのように管理するかについての議論が盛んです。フランスでは、Google、Amazon、Facebook、Apple、Microsoftをまとめて「GAFAM」と呼んでおり、それらが多くのデータを所有していることを指摘し、データを誰が管理するのか、データの管理により権力が生じることに関する問題をどう防ぐのか議論しています。プライバシーの権利の一環として欧州で「忘れられる権利」が出てきたのも特徴的です。他にも欧米発で「プライバシー・バイ・デザイン」、つまり設計の段階からプライバシーに配慮するという概念を打ち出され、世界に広まっています。また、現在はAIの使い方や懸念に対するルールや仕組みの提案を各研究グループや研究コミュニティが発信しています。

すごいなと思うのは、「何が重要な論点であり価値か」という内容と、「どういう風に議論すべきか、実装すべきか」という方法や枠組みがパッケージ化されて発信されることです。このため、日本でも、彼らの枠組み・考え方に則って議論をすることになります。しかし、欧米で作られた仕組みを日本に輸入するだけではあまりうまくいかないことだってありえます。例えば、技術者倫理もアメリカから入ってきたものですが、基本的な理念は内部告発に由来するものだそうなのです。つまり、異常を検知したらそれを会社上層部などに告発する仕組みをもとにしているのですが、日本人はそもそも内部告発という文化に慣れていない。そのため、技術者倫理の研究者は、日本ならではの技術者倫理の枠組みを考える必要があると考えていると聞きました。

要するに、概念あるいは問いを適度な粒度で作りだし、具体的な内容と、議論する枠組みや仕組みを一体にして打ち出していくことが重要だと思っています。先日、東アジアのSTS学会で発表を行なった際、AIRの取り組みは欧米で行われている議論のやり方や場作りとは少し違うねと言われました。AIRのようにネットワークで動いている組織は、日本の議論の仕方として面白いケースになるのではないかと言ってもらえたのです。そのように、「何を議論しているか」ではなくて「どう議論しているか」も、抽象的なレベルまで概念化して打ち出していくのが大事だと考えています。

ユニークな学習環境から得た、独自の視点

Q:STSという領域に入っていくきっかけは何だったのでしょうか。

私は帰国子女で、小学生の時にシュタイナー学校というちょっと変わった学校に通っていました。その学校は、音楽や美術、工芸、演劇など自分で手足を動かしてものを作り出すことを重視していて、テレビなど受動的になる技術になるべく触れさせない方針がありました。そこである意味「技術断ち」をしていたために、日本に帰ってきたときに違和感があったのです。日本はとても技術が発展していて、みんなが毎日、技術の話ばかりしていました。振り返れば、それが科学技術と社会に興味をもった原点だったのだと思います。

東京大学には文科系として入学し、「一人学際」と称して色々な講義を受けていました。そんな中、「技術断ち」の反動で、科学技術の最前線で何が起きているのかに強く惹かれ理転しました。進学した広域科学科はシステム論を専攻する科だったので、生物実験、化学実験、物理実験をはじめ、数学や天文学、地学実習に加えプログラミングなど、一通り勉強することができました。その一方で、教育学や社会学、人類学などの講義を受けたりしていて、最終的には科学技術と社会の相互作用という両面が扱えるSTSという分野を知り、藤垣裕子先生の研究室に所属させていただきました。

STSの概念の浸透を目指して

Q:STSは今後、社会の発展とともにどのように進化していくでしょうか。

STSの理論と活動はこれからの社会で必要とされる分野だと考えています。ただ、それが「STS」という名前のままで広がるかは分かりません。STSの理論という点を考えると、「THE・STS研究者」をいかに増やしていくかという話になりますが、活動や実践という点から考えると、STS研究者の周辺にいる多様な研究者の方たちがSTSの内容に興味をもってくれることが増えていくのではないでしょうか。そして関連する素養をもったり、議論に積極的に巻き込んだり巻き込まれたりしてくれたらいいなと思います。実際、AIRも生循環も、それぞれが本専攻を持っている人たちですがSTSという分野に興味をもってくれています。

私の現在の職場は「科学技術インタープリター養成プログラム」という副専攻プログラムを提供していて、科学技術と社会について考えたいという学生さんたちが集まっています。彼らも自分の専門をもちつつも、技術と社会の関わり方を考えており、そういう人たちが活躍する機会も多くなっていくだろうと思います。

またSTSはメタ学問でもあります。そのため、AIや生命科学などを研究している人たちが、自身の研究に関して小さな疑問を感じたときに、それについて一緒に考えてくれる人たちがいるような環境を提供することが大事だと思います。そしてSTSに興味をもってくれた人たちが、またハブとなって次の議論や問いを作ってつなげていってくれる。そのための理論的な枠組みや具体的な事例を作っていけたらなと思っています。