弥永真生・宍戸常寿編『ロボット・AIと法』

ロボット・AIに関連する法学諸分野の論点を解説している本
編者によれば、ロボット・AIを糸口にした法学入門としても読むことができることが企図されており、実際、法律門外漢の自分にとっては、そのように読むことができた。
法律の専門家たちによって書かれている本なので当然だが、完全に法律の本である。
法というのが、どういう観点から考えられているのかがわかる。基本的に、読みやすい本。
法学独特の言い回しが、門外漢からは新鮮に感じられて面白かった。
論点としては、第6章の契約をめぐる話とか、第10章の刑事司法についての話が面白かった

ロボット・AIと法

ロボット・AIと法

第1章 ロボット・AIと法をめぐる動き(宍戸常寿)
 ? はじめに
    ロボット・AI ブーム/ロボット・AI と法の関わり/本章のねらい
 ? ロボット・AI とは?
    ロボットとは?/AIとは?/ロボット・AIの何が新しいのか?
 ? ロボット・AI による社会変革
    時間軸―シンギュラリティ?/「第4次産業革命」と「Society5.0」/日本におけるロボット・AI政策の力点
 ? ロボット・AI の社会的影響と対応
    ロボット・AIの社会的影響とリスク/リスク社会における科学と社会の関係/ロボット・AIの開発・利活用について留意すべき点
 ? ロボット・AI と法(学)
    ロボット・AIがもたらす法(学)の課題/ロボット・AIによる法のパラダイムシフト?/「ロボット・AI法」の独自性
 ? おわりに――本書の概観
    国内外の動向/理論的検討/各論的検討

第2章 ロボット・AIと法政策の国際動向(工藤郁子)
 ? はじめに
    「ロボット・AI と法」は,こわくない?/法政策のデザイン/本章の構成
 ? 欧州
    ロボティクス規制に関するガイドライン/ロボティクスに関する民事法的規則/「モノづくり」と法政策
 ? 米国
    IT産業と法政策/AIの未来に備えて
 ? おわりに

第3章 ロボット・AIと自己決定する個人(大屋雄裕
 ? 法システムの基礎
    分割不能な個人/保護と排除の法
 ? 自己決定の自律性への問い
    認知科学の挑戦/アーキテクチャの権力/幸福への配慮/あらたな可能性
 ? 意識されない操作と統制
    規制への意識/no way out(出口なし)
 ? 行為者の人格性への問い
    人と物の世界/人間の条件
 ? 人格なき社会への展望
COLUMN サイボーグをめぐる問題

第4章 ロボット・AIは人間の尊厳を奪うか?(山本龍彦)
 ? はじめに
 ? 個人の尊重原理とは何か
 ? 集団と個人――個人の尊重原理・第2層をめぐる考察
    アルゴリズム上のバイアス/セグメントに基づく確率的な判断―個人主義とセグメント主義との相剋/「過去」の拘束
 ? 個人の自律――個人の尊重原理・第3層を巡る考察
    不条理な没落/他者的「家族」としての接近/コピーロボットへの接近
 ? おわりに

第5章 ロボット・AIの行政規制(横田明美
 ? はじめに
 ? 安全確保における法制度と行政規制
    民事法・刑事法との関係―予防司法としての行政規制/安全のための行政規制/消費者法制における民事法・刑事法・行政法の組み合わせ
 ? 既存の法システムと新技術への対応
    日常生活に溶け込む製品の安全性―有体物とソフトウェア,ネットワーク/道路交通をめぐる法制度
 ? ロボット・AIの普及による社会の変化
    モノとソフトウェア・ネットワークとの融合/学習するAI,判断過程のブラックボックス化/アクターの多層化,複層化
 ? ロボットが普及する社会と行政規制
    「ロボット・AI法総論」と「ロボット・AI法各論」/「AI開発ガイドライン」案への意見募集をめぐって/総論と各論の相補的見直しと行政の役割

第6章 AIと契約(木村真生子)
 ? はじめに
 ? アルゴリズム取引と現代的な契約
    アルゴリズム取引―契約の自動化の進展/自動化された取引から生ずる問題/規制当局の対応
 ? 「人」と「機械」の相互作用から契約は生まれるか
    「人」と「機械」による取引と契約法の関係/単純な機械と人との取引―自動販売機による売買/複雑な機械と人との取引―クローズド・ネットワークでのコンピューター通信/オープン・ネットワークでのコンピューター取引
 ? コンピューターは代理人となれるのか――アメリカとドイツの考え方
    アメリカ/ドイツ/まとめ
 ? AI の出現
    AIをめぐる契約の動き/AIを介した契約の帰趨
 ? おわりに

―ロボット・AIと競争法―(市川芳治)
 1 ある事例から
 2 競争法の思考枠組みとロボット・AI
 3 競争当局等の問題関心
 4 基本への立ち返り
 5 エンフォースメント
 6 終わりにかえて

第7章 自動運転車と民事責任(後藤元)
 ? はじめに
    自動運転技術の発展/自動運転と民事責任/本章の構成
 ? 自動運転技術のレベル
 ? 現行法を前提とした検討
    ドライバー・運行供用者の民事責任/自動運転車メーカーの民事責任
 ? 将来的な制度設計の可能性
    現行法を前提とした帰結の問題点/制度設計の選択肢
 ? 結びにかえて

第8章 ロボットによる手術と法的責任(弥永真生)
 ? ロボット製造業者の製造物責任
 ? ロボット製造業者の不法行為責任
 ? インフォームド・コンセント
 ? 債務不履行責任と瑕疵担保責任
 ? 契約により責任を制限することが認められるか
    対病院等―定型約款/対患者―消費者契約法
 ? 遠隔手術に伴う法的問題
    遠隔医療・遠隔手術の展開/どこの裁判所に訴えるか―裁判管轄/どの国の法律が適用されるのか―準拠法
 ? 今後の課題
    免許制度の可能性/「欠陥」「瑕疵」「過失」の立証の困難さ/保険または補償制度の可能性

第9章 ロボット・AIと刑事責任(深町晋也)
 ? はじめに
 ? モデルケース
    事例1/事例2/事例3
 ? 自動走行車と過失犯の成否
    自動走行車の意義とその種類/レベル3の自動走行車と死傷事故
 ? レベル4 以上の自動走行車と過失犯の成否
    前提:レベル4以上の自動車は公道を走れるか/レベル4以上の自動走行車と刑事責任:AIの刑事責任?/レベル4以上の自動走行車と刑事責任:設計者の責任
 ? 自動走行車と生命法益のディレンマ状況
    生命法益のディレンマ状況とは/ドイツ刑法学における生命法益のディレンマ状況の解決/我が国における生命法益のディレンマ状況の解決/自動走行車のプログラミング段階での問題
 ? ロボット・AI が被害者的な立場に立つ場合
    総説/人間の感情/人間との密接な関係
 ? 終わりに

第10章 AIと刑事司法(笹倉宏紀)
 ? はじめに
 ? 刑事司法におけるAIの可能性――総論
 ? AIと事実認定
    事実認定の仕組み/AIによる代替可能性/学習の限界と事実認定過程の複雑さ/証拠能力
 ? 法の適用判断
 ? その他の活用場面
    量刑・再犯予測/新派刑法理論の復活?/保釈・令状審査/起訴猶予/捜査/取調べ/AIが捜査に協力する場合
 ? 法の支配とAI

第11章 ロボット・AIと知的財産権(福井健策)
 ? 導入
 ? ロボット・AIコンテンツの広がり
 ? ロボット・AIコンテンツの特徴と社会影響
    大量化・低コスト化/テーラーメイド化/権利侵害・フリーライドの恐れ/新たな体験・発見・感動
 ? ロボット・AIの知財問題
    検討の視点/学習用データ/ロボット技術・AI本体(アルゴリズム)/学習済みモデル/生成コンテンツ
 ? おわりに

第12章 ロボット兵器と国際法(岩本誠吾)
 ? はじめに
    ロボット兵器の登場/ロボット兵器の特徴/進化ロボット兵器への不安
 ? ロボット兵器の分類と現状
    ロボット兵器の分類基準/ロボット兵器の現状
 ? ロボット兵器の法規制動向
    2012年以前の動向/2013年以降の動向/非公式専門家会合から政府専門家会合へ
 ? 国際法上の議論
    用語の定義/国際人道法の適用/新兵器の法的審査/国際責任の追及
 ? 関連事項の議論
    倫理的考慮とマルテンス条項/LAWSの予測可能性/人間による制御/LAWSの内在的危険性
 ? おわりに
    法規制アプローチの対立/事前規制推進派と事前規制慎重派/議論の困難性を超えて

第1章 ロボット・AIと法をめぐる動き(宍戸常寿)

日本における、政府の有識者会議等の各種報告書等から、ロボット・AIと法や社会との関連を概観するとともに、本書の各章の紹介などもなされている。
「ロボット・AI法」について、法学において、そういう独自分野が必要になるか、それとも既存の法分野の解釈の延長線上にあるだけなのか、という論争も起こりつつあるという。
新保史生・平野晋などが前者の立場にたつ
本書は、これについてはさしあたり中立の立場をとる、としている

第2章 ロボット・AIと法政策の国際動向(工藤郁子)

欧州とアメリカにおける、法政策の動向が報告されている
欧州においては、公的機関を中心に、ロボットに関しての議論が行われており
一方、アメリカでは、民間を中心に、AIに関しての議論が行われている、と
欧州がロボットをメインに、アメリカがAIをメインに議論が行われているのは、それぞれの産業構造を反映している、とのこと。

第3章 ロボット・AIと自己決定する個人(大屋雄裕

法は、<意志−行為−責任>という連関によって、人をとらえる
自己決定への疑い
→サンスティーンのナッジとリバタリアンパターナリズム
→ナッジとは反対に、検索結果からあらかじめ選択肢が削除された場合、コントロールに気付くこともない(後述するトークセッションでも、この点について言及があった)
法による規制は、対象者に意識される必要があるが、アーキテクチャによる規制は、意識される必要がない、という問題と、それとAIが結びついたときどうなるかという問題


人間以外の存在をどのように扱うか
法における人・物の二分法の世界に、モノでありながらヒトと同等の能力を持った存在が現れてきたら
アレントが、言語による行為として「活動action」があるととらえていたこと踏まえ、言語行為が人間社会に参入する資格を与えるのか、と触れている


また、<意志−行為−責任>の連関を諦め、結果のみから責任を扱うという方法が可能性としてあることは指摘しつつ、その考え方は、新派刑法学という考え(かつて議論されつつも、予防に傾くので主流派にならなかった)につながると指摘している

COLUMN サイボーグをめぐる問題

ロボット・AIと似てるけど、サイボーグはあくまでも、人間側の問題であって、人間以外の何者かが到来するという話ではない、と

第4章 ロボット・AIは人間の尊厳を奪うか?(山本龍彦)

ビッグデータとAIによるパーソナライズド広告や予測評価などの技術と、憲法の個人尊重原理との関係について


個人尊重原理を4層に分ける
その上で、これに抵触しているAIの問題点をあげる
また、AIによる判断を最終判断にしないこと、透明性の確保などにより、個人尊重原理と抵触しないように運用する方法があることを示す(EUアメリカでの判例など)
それ以外に、個人の自律性を脅かさないか、過去を忘れるということができなくなってしまわないかといった論点も出される。こうした点でAIに抵抗する手段は、プライバシーの権利のしかないのではないか、とも。

第5章 ロボット・AIの行政規制(横田明美

製品・サービスの危険性に対しては、民事責任・刑事責任・行政上の責任の3種類の組み合わせによる対応がある
刑事・民事は、紛争が起きた後の対応、行政規制は、紛争を予防する役割
人に着目した規制か、事業に着目した規制か、物に着目した規制か、場についての規制かという形で規制は分類される


新しい技術の発展に伴い規制は見直される
→家電の遠隔操作(2013年まで認められていなかった)
PL法は、ソフトウェアは対象外となっているが、IoTの進展に伴い、モノとソフトウェアが組み合わせっていく流れで、検討すべき課題となる
従来の行政規制は、出荷後の変更可能性を想定していないが、ソフトウェアはアップデートされていくもの。また、AIが今後組み込まれるとすれば、学習のためのデータ収集や、学習後に生じた問題の責任について、検討課題

第6章 AIと契約(木村真生子)

金融市場では既にアルゴリズム取引が広まっている

人と機械との契約について
まず、最初に単純な例から、ということで、自動販売機による販売についてどのように考えられるか、というところから始まっている。「なるほど、自動販売機もか!」と、思ってもなかったところだったので、面白かった
契約というのは双方の意思表示が必要だが、自動販売機の場合、売り主の方に意思表示がないのでは(機械なので)、という問題がある
学説上は、事実的契約関係理論による説明というものがなされていたが、のちに、設置するという行為によって意思表示が行われているという考え方が支持されるようになった、と
また、自動販売機との契約をめぐっては、なんと判例もある!
当たり馬券が機械の故障で発券されなかったことをめぐって裁判があったらしい
自動販売機の画面上の表示をもって契約が成立する、という見解が示されているらしい


その後、ネットワークを介した契約について色々論じられている
特に、インターネットを介した取引について、例えば、販売サイトの方が自動化されているような場合、やはりその意思表示を巡っては、どのように考えるかということを整理しておく必要があるらしい。
形の上では、コンピュータが契約行為者となっているが、コンピュータは代理人となれるのか、という問題が生じてくる
アメリカやドイツでは、実際にこの問題について論争が起きたらしい。
アメリカでは新たな立法措置をすることによって、ドイツでは新しい意思表示概念を作ることによって、この問題に対処
いずれも、結論としては、コンピュータを代理人とすることはできないとなっている。
しかし、AIの登場により、AIの判断で契約ができるようになってきたらどうなるのか(例えば、人間は「こういう旅行がしたい」と命令して、細かいプランニングや個別のホテルや交通の予約はAIが行うような場合)
AIを代理人として捉えることができないか、という議論がなされているようである
AIは責任を負えないのではないかという問題があるが、費用負担については保険で対応するという考え方もある
ただし、この章としては、AIの背後にはやはり人間がいて、その人間の意志を前提にして動いているという立場を維持しており、AIを介して人の意思表示がなされているのであって、従来通りの契約の延長線上に位置づけられるだろうという考えのようである。

―ロボット・AIと競争法―(市川芳治)

Amazonマーケットプレイスで、価格設定ソフトを用いて販売することができるが、価格が高止まりするようなアルゴリズムで販売されたとき、これはカルテル

第7章 自動運転車と民事責任(後藤元)

現状の法律で、自動運転車の事故についての責任がどのように解釈されうるのか示したうえで、現行制度の問題点と検討課題をあげる
自賠法とPL法が検討されている。
結論として、現状、自動運転車であってもドライバーないし運行供用者に対する責任追及は可能。一方、自動車メーカーへの責任追及は、立証の困難性から断念されてしまう可能性が高い、と。
検討すべき課題としては、運行供用者の責任については維持した上で、自動車メーカーに対する責任も一定程度追及しうる制度が必要なのではないか、と。
もちろん、それは、メーカーにとって自動運転技術開発がデメリットにならないようにもしなければならない(アメリカでは、メーカーへの責任は限定し、メーカーの拠出金による補償基金によって被害者救済を行うという制度の提案がなされている、と)

第8章 ロボットによる手術と法的責任(弥永真生)

ロボットによる手術、遠隔手術による様々な法的問題についての検討

第9章 ロボット・AIと刑事責任(深町晋也)

自動走行車による過失致死や、愛玩ロボットの破壊といったモデルケースをもとにした検討
(前者はロボット・AIが加害者、後者はロボット・AIが被害者)


まず、前者について
そもそも、ロボット・AIに対して刑事責任を問えるのかという問題
刑罰とは、一定の負担であり、なおかつ一定のスティグマを付与するものである
しかし、AIにスティグマとして法的非難を与えることにどのような意義があるのかを考えるにあたって、AIは社会において人と対等なメンバーとしての人格を持つのか考えなければならない
ところで、筆者は、刑罰でないとしてもAIを破壊したり消去したりといった「処分」は可能で、処分をするにあたって、その対象が責任能力を有するか、人格を有するかという議論は不要なので、当面はそれでいいのでは、という立場


また、設計者の責任について、生命法益のディレンマ状況(俗にいう「トロッコ問題」)について、どのような議論がなされているか紹介されている
これは、法的にはいわゆる「緊急避難」として考えられるのだが、ドイツでは、緊急避難において、生命を比較考量するという考えが認められていないらしく、緊急避難の考えによって、例えば「5人の命を助けるために1人を犠牲にする」ことは正当化されない、らしい
(一方、日本では、生命の比較考量が全く否定されているわけではない、と)
しかし、ドイツにおいて、自動走行車のプログラミングについて、別の見解によって正当化が試みられている。既に述べた通り、事後的には、多くを救うために少数を犠牲にするということを正当化することはできないが、事前においては、損害の最小化することを考えるのはむしろ義務である、と。


後者について
ロボットの破壊は、まあ普通に考えれば、単に器物損壊なのだけど、それ以上の何か保護はないのか、という論点
例えば、愛護動物や遺体は、単なる器物損壊以上の規定がある。
で、これについて、全然知らなかったのだけど、動物愛護法や死体損壊罪において、保護されるべき法益と考えられているのは、動物そのものや遺体そのものではなくて、「動物を愛護する気風」とか「死者に対する敬虔・尊崇感情」らしい
人間の「思い入れ」を保護しているのだ、と。
ロボット・AIと人間とのあいだに密接な関連性があるようになれば、将来的には、考えられるかもね、と

第10章 AIと刑事司法(笹倉宏紀)

刑事訴訟の手続きの進め方についての入門になっていて、その点で面白い
なおかつ、各手続きの段階について、これはAIでも代替できるのではないか、ということが述べられていたりする
刑事訴訟について、一方では、デジタル的(要件を満たすか満たさないかを「入力」すると判断が「出力」される)であり、他方で、アナログ的(事実認定や法律適用について、個別の特徴を勘案しなければならない)という特徴があり、そのバランスをとることが、法律家というプロフェッショナルの仕事なのであるとしている
その上で、これならAIでもできるんじゃねといったところを、挙げていたりする。
ちょっと面白い論点だなと思ったのは、捜査において、証拠をAIに管理させて、必要なものと不要なものをより分けることができれば、事件に関係のない証拠を捜査官の目に触れさせなくてもいいという点で、プライバシー保護に役に立つのでは、という話

あと、裁判員制度によって運用が始められた量刑データベースの話とか


AIに代替が可能だとして我々はそれを許容できるのか問題
司法というのは、単に正しいだけではなく、権威によって正統性を持つ
またそれは、論理的な「装い」「感銘力」によっても保たれる

第11章 ロボット・AIと知的財産権(福井健策)

まず、ロボット・AIを用いたコンテンツの事例が多数紹介されていて、それが面白い
ロボット演劇やボーカロイド、CGによるすでに物故した俳優の新作などから、星新一プロジェクト、新聞記事に自動生成、グーグル翻訳、音楽自動生成、画像生成のネクスト・レンブラント、DeepDream、モノクロ写真の自動着色など
知らないものも結構あって面白あった
AIによるコンテンツ生成のリスクと可能性について列挙したのち、具体的な知財問題としては、AIが学習するために用いるビッグデータや、学習済みモデルについての知財保護について
これらについては、著作物にあたるかどうかという話だけでなく、そもそも法律で守るべきものなのか、それとも契約やアーキテクチャなどで守るべきものなのかということも論じられている
(法律は遅くビジネスに対応できないが、契約やアーキテクチャなら素早く柔軟に対応できる)

第12章 ロボット兵器と国際法(岩本誠吾)

まず、ロボット兵器の分類など
「人間の輪の中にいる兵器=遠隔操作兵器」「人間が輪の上にいる兵器=半自律兵器」「人間が輪の外にいる兵器=完全自律兵器」
一つ目は、プレデターなど。2つ目は、ファランクスやパトリオットアイアンドームなど、3つ目は、現状まだ存在していない
完全自律兵器については、軍人はあまり肯定的ではないというアンケート結果などがある(コントロールできない兵器は、作戦上リスクだし、上官の責任としてもリスク)
どういう規制をするかで、事前規制推進か慎重か、また規制するにあたって、コンセンサス方式をとるか有志連合方式をとるかで対立がある。
コンセンサス方式は、規制レベルは低くなるが大国も巻き込み実効力を高くできる。有志連合方式は、大国の参加は期待できないが規制レベルは高くできる。
対人地雷においては、両方の方式を採用したが、クラスター弾はコンセンサス方式がなく、有志連合方式だけなので、事実上の無規制状態になっている、とか

刊行記念トークセッション「『BEATLESS』が問う、『ロボット・AIと法』

6/23にジュンク堂池袋店で行われたトークイベント
大屋雄裕長谷敏司、工藤郁子(進行)の3名が登壇
責任、自律、信頼の3つをキーワードとして、『BEATLESS』の作中にでてくる台詞や設定と、法(哲)学における概念や議論を照らし合わせながら、展開された。
長谷さんから『ロボット・AIと法』を読んで疑問に思った点などが次々と出てきて、それに大屋さんが答えたり、また大屋さんから『BEATLESS』が法の面から見て興味深いトピックをテーマとして切り出している作品であることが語られた。
2人の会話を適宜ブリッジしながら、テンポよく話題を進行していった工藤さんの手際もよいイベントであった。


BEATLESS』が描く未来世界において、人とモノ(hiE)が徹底的に分けられていたのは何故かということに対して、AIに人格を付与した場合(人間扱いした場合)、不死の人間なども現れることになるが、そうした存在もいる社会をディストピアではない形で想像することができなかった、という長谷さんの話が興味深かった。
また、これを受けて、大屋さんは、不死の人間にあたるのが企業だ、と。罰金刑はあるけど自由刑はない。選挙権がない点が自然人との違いで、自然人の優位性ともいえる。
だが、AIに法人格を与えるとなるとどうか。
ここで、大屋さんが、信頼を信託と読み替えて(どちらもtrustだが、法の分野ではtrustを信託という意味で用いるとのこと)、ここに可能性を見いだす。



『ビジネス法務2018年2月号』

ビジネス法務 2018年2月号[雑誌]

ビジネス法務 2018年2月号[雑誌]

自然人,法人に次ぐ「電子人」概念の登場(工藤郁子)

AIによる取引にかんして
アメリカ→「電子エージェント」(代理人とはみなさない)
欧州→「電子人」概念の検討(賠償能力は保険で?)

総 論 AI に対して法はどう向き合うか( 新保史生)
憲 法 個人の尊厳・自律と AI による評価 (山本龍彦)
労働法 デジタル経済時代の労使関係(濱口桂一郎

団結や団体交渉は労働者の権利
一方、自営業者がこれをやると談合になる
ところで、現在はジョブからタスクへの分解が起きて、シェアリング経済、フリーランス化が進んでいる。非雇用型労働のための新しい形の労働交渉が必要なのでは?

行政法 AI 社会における行政規制・行政による AI の活用に向けて(横田明美
不法行為法・PL 法 民事責任 ー AI・ロボットと責任の分配 ( 波多江 崇)
知財ビッグデータ,学習済みモデル,AI 生成物の保護( 柴野相雄/松村将生)
独禁法 デジタル・カルテルが問う「合意」要件(植村幸也)

アルゴリズムが結果的に協調してしまった場合
「同じことを、鉛筆をなめながらやってもカルテルになるのか」ということ
(現状、従来のカルテル規制でも事足りている。AI特有のカルテルというのはあるのか)

金融法 市場取引,金融サービス,コンプライアンスにおける AI の活用 (森口 倫)

市場取引のロボット化、AI投信、ロボ・アドバイザー、AIを用いたリスク審査

刑事法 AI・ロボットと刑事法ー取得情報とプライバシーを中心に(松尾剛行)
司法制度 裁判過程・司法判断における AI の可能性(大屋雄裕

書記官のような仕事は置き換えられるかも?→少子化社会においてこれはメリットだが、書記官を簡裁判事の供給源として考えると副作用も考えられる

国際法 AI 搭載兵器の責任をめぐる法的問題(佐藤丙午)

交戦の責任が、軍と民間とで交錯する可能性