AIに責任は取れるのか

裁かれなかった「運転者」

2018年3月、米アリゾナ州テンピ。夜の幹線道路を、自転車を押して横断していた女性が、走行試験中の自動運転車にはねられて亡くなりました。完全な自動運転モードで走行中の車が歩行者を死なせた、世界で初めての事故とされています。

5年後の2023年、この事故をめぐる刑事手続きが決着します。危険行為（エンダンジャーメント）の罪を認めたのは、ただひとり——運転席に座り、スマートフォンで動画を見ていたとされる補助ドライバーでした。言い渡されたのは保護観察3年。車を開発していた企業は刑事訴追されず、そしてハンドルを握っていたAIは、当然ながら、法廷に立ちませんでした。

この結末は、法的にはひとつの筋が通っています。それでも、どこか収まりの悪さが残らないでしょうか。判断の大部分を機械が担っていたのに、罪を引き受けたのは、その場でいちばん立場の弱い人間だった。かといってAI自身に責任を取らせようにも、AIに反省させることも、罰を痛がらせることもできそうにありません。「AIに責任は取れるのか」という問いは、突き詰めていくと、「責任を取るとは、そもそも何をすることなのか」という、意外に答えにくい問いに行き着きます。

責任の置き場所をめぐる、三つの立場

最初の立場は、いちばん常識に近いものです。AIはあくまで道具であり、責任は常に人間の側にあるという考え方です。ハンマーで人を傷つけてもハンマーは裁かれないように、AIが害を生んだら、設計した人、売った人、使った人のだれかが責任を負えばいい。多くの法律家の出発点も、ここにあります。

ところが、この常識には突きどころがあります。哲学者アンドレアス・マティアスは2004年の論文で、学習するシステムには「責任のギャップ」——誰にも公正に責任を割り当てられない空白——が生じると指摘しました。人に責任を問うには、その人が結果を予見し、制御できたことが前提になります。しかし機械学習で動くシステムの個々の挙動は、開発者自身にも事前に予測しきれません。予見も制御もできなかった人に罪をかぶせるのは不公正で、かといって他に負う者もいない。従来の責任の割り当て方が届かない空白ができる、というわけです。哲学者ロバート・スパロウは2007年、この論理を自律型兵器に当てはめ、戦争犯罪にあたる結果が起きても誰にも正当に責任を問えないのなら、そうした兵器を戦場に送ること自体が許されない、と論じました。

二つめの立場は、逆方向に踏み込みます。AIそのものに法的な責任主体の地位を与えればいいという発想です。突飛に聞こえますが、参照できる前例があります。会社です。法人——法律が「人」とみなすことにした存在——は生身の人間ではありませんが、財産を持ち、契約を結び、罰金を科されます。同じ仕組みをAIに広げられないか。実際、欧州議会は2017年、高度な自律ロボットに「電子人格」という法的地位を与える可能性の検討を欧州委員会に求める決議を採択しました。もっともこの提案には、欧州のAI研究者や法学者ら150名以上が公開書簡で反対を表明します。ロボットの能力を過大評価しているうえ、メーカーが責任を逃れるための空箱に使われかねない、というのが批判の核心でした。

三つめの立場は、そもそもギャップは言われるほど深刻ではないとみる見方です。挙動を予見しきれないものを世に出すこと自体が、リスクの引き受けにほかならない。新薬にも予見できない副作用がありますが、私たちは製薬会社への責任の問い方を工夫してきました。同じように、製造物責任や保険といった既存の道具立てを延長し、責任を一人に集約するのではなく関係者のネットワークに配分すればよい、という実務的な立場です。

責任を吸収してしまう人間

三つの立場のどれを取るにせよ、現実に起きがちなパターンを言い当てた概念があります。文化人類学者マデレン・クレア・イーリッシュの「モラル・クランプル・ゾーン」です。クランプル・ゾーンとは、衝突のエネルギーを吸収するためにあえて潰れるよう設計された車体の部位のこと。イーリッシュは、自動化されたシステムで事故が起きると、制御の大部分を機械が握っていたにもかかわらず、責任の衝撃はシステムにいちばん近い人間に集中して吸収される、と指摘しました。車のクランプル・ゾーンは人間を守るために潰れるのに対し、モラル・クランプル・ゾーンでは、システムの体面を守るために人間が潰れる——。

テンピの事故は、この構図の教科書的な事例になりました。米国の事故調査機関NTSBは、直接の原因を補助ドライバーの前方不注視としつつ、企業側の安全管理体制の不備や、行政の監督の甘さも事故に寄与したと結論づけています。つまり責任は、実際には何層にも分散していました。それでも刑事責任という最も重い形の責任は、末端の人間ひとりに落ちたのです。

もうひとつ、遠回りに見えて示唆的な歴史があります。中世から近世のヨーロッパでは、人を死なせた豚や、畑を荒らしたネズミが、本物の法廷で裁かれていました。1906年にこうした記録を集成した文献には、動物に弁護人がつき、判決が下され、処刑まで行われた事例が数多く収められています。現代の目には滑稽に映りますが、ここにはひとつの教訓が読み取れます。「何を責任主体として扱うか」という線引きは、時代とともに動いてきた、ということです。動物は法廷から退場し、入れ替わるように、法人という人工物が入場しました。AIをどちら側に置くかは、自然が決めてくれる事柄ではなく、私たちの制度設計の問題なのです。

いま分かっていること、まだ分からないこと

現時点の法制度は、おおむね「AIは裁かない。人間と企業への責任の配り方を精密にする」方向へ進んでいます。EUは2024年、製造物責任のルールを約40年ぶりに全面改訂し、ソフトウェアやAIシステムを「製品」として欠陥責任の対象に明記しました。AIの複雑さのせいで被害者が欠陥を立証しにくい場合に、立証の負担を軽くする仕組みも盛り込まれています。責任のギャップを、AIに人格を与えることではなく、人間側の網の目を細かくすることで塞ぐ戦略です。

分かっていないのは、この戦略がどこまで持ちこたえるかです。システムの自律性がさらに上がり、開発者・提供者・利用者の誰の寄与とも言い切れない害が増えたとき、配分の網は破れないのか。そして、より深いところには哲学的な未解決問題が横たわっています。仮にAIに罰を科せたとして、罰を痛みとして受け取らない存在への罰に意味はあるのか。反省も後悔もしないものが「責任を取る」ことは、概念として成立するのか。責任という言葉に私たちが込めてきたもの——非難、償い、再発の防止——は、どうやら一枚岩ではないようです。AIは、その束を目の前でほどいて見せている最中なのかもしれません。