法学と行動科学から考える望ましいAI規制

近年、めざましい発展を続けるAI（人工知能）やロボット。
さまざまなことが自動化される中、AI開発における規制やルール作りの議論が始まっています。
一方で、これらの機械を妄信したり、逆に嫌悪するといった、人間の極端な傾向も指摘されています。
適切なAI活用に向けたこれからの法体系を考える時、行動科学とのコラボが鍵になりそうです。

自動化技術と法

　ネットショッピングをするとき、画面の向こうには店員がいるわけではありません。コンピュータのアルゴリズムが自動的に応答しているだけです。民法では、契約は当事者双方の合意により成立する、とされていますが、ネットショッピングにはそれがなく、売買契約が成立しているのか、実は曖昧です。また、年収や生活スタイルなどの個人情報を入力すると、それに応じた商品が提案されるようなシステムでは、特定の方向に誘導するようにプログラミングされていたとしても、利用者がそれを知る術はありません。
　このように、ロボットやAIによる自動化が進むと、これまでの法体系では扱いきれない問題が生じます。それらは、契約法、知的財産法、個人情報保護法、そして憲法など、多くの法律と関わります。
　例えば、自動運転車が事故を起こした場合、誰がどういった割合で責任を負うのでしょうか。運転者か製造者か販売者か、裁判では、起こった事象の因果関係が争点になりますが、現在の機械学習やディープラーニングといった技術では、AIが行う計算過程はブラックボックスになっており、法的な判断を下すのは困難です。

人間のバイアスを考慮する

　そこで検討されているのが事前規制です。AIの倫理原則のようなものをあらかじめ作っておき、開発の段階で何らかの歯止めをかけよう、ということです。利便性向上のためとはいえ、中身がよくわからないアルゴリズムに頼ってもよいのか、法律の専門家たちがAIの問題を指摘し始めたことで、技術者たちの間でも、開発に伴うリスクを未然に防ぐための議論が始まっています。
　しかしながら実際に厄介なのは、人間のバイアスです。人々には、AIを崇拝し妄信してしまったり、やみくもに嫌悪して全く信用しないとする、両極端の認知パターン、すなわちバイアスがあることが、行動科学の分野で指摘されています。しかも、バイアスを減らそうとすること自体にもバイアスが含まれるため、AIとの「ほどよい信頼関係」を定義するのは容易ではありません。そこで、そもそも人間の判断にはバイアスが含まれることを前提に、つまり、行動科学の知見を生かして法や規制を構築する、という研究領域が新たに登場してきました。

新しい法学の研究手法へ

　もともとの研究テーマは、自動化されたアルゴリズムに基づく契約の有効性。証券会社で働いていたときに感じた、機械に仕事を奪われるのでは、という危機感がきっかけでした。法学における一般的な研究手法である「比較法」によって、海外の先行事例を調べ、どのような背景でどのような法律が作られているのかを分析しました。ここから発展して、AIをはじめとする新しいテクノロジーが、商取引や投資行動に関わるルールに及ぼす影響を考察してきました。
　そんな中で出会ったのが、行動科学の視点からAI規制にアプローチするアメリカでの研究です。AI倫理原則を作っても、結局は、各自の判断で正しい行動をとるしかなく、その実効性には限界があります。そこに、人間の行動や認知の特徴を取り込む、という斬新な考え方に惹かれました。行動科学は、経済学などでも応用されており、これからの法学での展開にも大きな可能性を感じています。

どこまで任せるかを考えよう

　　一定の歯止めが整うまでAIの開発をストップすべき、という提案もありますが、同時に、どこまでAIを使うべきか、という議論も必要です。完全自動運転車は、便利かもしれませんが、運転の楽しみを失って反発する人も出てくるでしょう。人間らしさや、何のために自動化するのか、ということも考えなければ、人間の力を奪ってしまうことにもなりかねません。ひたすら自動化を進めようとすれば、規制が過剰になったり、あるいは緩くなりすぎる弊害も生じます。
　ロボットやAIはあくまでも道具。なんでも任せるよりも、任せるべきことと、そうでないことを区別し、人と機械が調和する社会を模索すべきです。それには何かしらの基準やルールが必要で、法律家や技術者だけではなく、多くの人の意見や幅広い研究分野の知見にも目を向けなくてはなりません。行動科学とのコラボが、その第一歩になりそうです。