『世界2019年10月号』「特集AI兵器と人類」

世界 2019年 10 月号 [雑誌]

この兵器と人類は共存できない　いま、なぜ自律型致死兵器システムを問題にするのか　中満泉

筆者は国連軍縮担当事務次長
この記事は、この特集の序文みたいな感じで4ページの短いもの
特定通常兵器使用禁止制限条約の枠組みで自律型致死兵器システム（LAWS）分野についての会合が開かれていて、規制に向けの国際的な動きが始まっているよ、というもので、この特集自体が、この国際的な規制の枠組みが今どのようにすすめられているのかという話を中心になされている。
この記事の中で、グテーレス国連事務総長、こうした兵器は禁じられるべきというメッセージを発していることが書かれている
あと、ちょっと細かい話だけど、へえと思ったのは、「人間の形態を人間以外の対象に与える新出技術、すなわち「擬人化」を防ぐ措置を考慮しなければならないことも確認している」こと

AI兵器――異次元の危険領域　津屋尚

LAWSの何が危険視されていて、どのように規制の話がされているか、という話
わかりやすく大げさな話（シンギュラリティ起きて人間に暴走する可能性の話とか）も混ざっているが、これも現状の概略説明という感じの記事
（１）ロボットに人の生死を決めさせていいのか（２）戦争へのハードルを下げてしまうのではないか（３）テロリストや独裁者が国内で弾圧に使う可能性
2012年現在、アメリカ国防総省は、完全自律型を導入するのには消極的ととれる指令書を出している
基本的に兵器の規制というのはこれまで実際に使用されてから条約が作られてきたが、LAWSという完全自律型の兵器というのはまだ実現していないものであり、事前の規制が必要だという認識が、国際的に共有されてきている、という状況にある
しかし、じゃあ自律って一体なんだとかとか定義の部分から一致を見ておらず、なかなか進んではいない
例えば、人間が関与すべきというような共通認識はあるものの、どのようなことであれば人間が介在したといえるのか、という点は一致を見ていない
あるいは、中国は「自己進化するAI兵器を規制すべき」という主張をしていたらしいが、筆者はこれを、裏を返せばそうではないものの規制は必要ないという主張ではないか、とも書いている
あと、基本的に今回の特集は「LAWS＝Lethal Autonomous Weapon System自律型致死兵器」つまり殺傷する兵器の話が中心だが、この記事では一番最後に、サイバー攻撃やフェイクニュースをばらまく攻撃をするうようなAI兵器の可能性も指摘していたのが面白かった。

対談　キラーロボットvs.市民　土井香苗・長有紀枝

土井は、NGOヒューマン・ライツ・ウォッチの日本代表
長は、NGO難民を助ける会理事長で、対人地雷やクラスター爆弾の禁止キャンペーンを行ってきた人
2人とも、キラーロボット反対キャンペーンのメンバー
地雷やクラスター爆弾の廃絶運動の延長として、キラーロボットの反対キャンペーンもあるが、地雷やクラスター爆弾とは違う面がある
1つは、キラーロボットについてはまだ実際に被害が出ているわけではない、予防的な話だということ。
これについては、社会に訴えかけるのが難しい面があると同時、まだ既得権益などが発生していなしい、こうした兵器を前提とした政策が行われているわけでもないので、止めやすい面もあると
もう1つは、地雷が「周辺兵器」だったこと。地雷そのものは戦争の勝敗に対して決定的な働きはしない、その割に被害が大きすぎる、というところから勧められた。が、ロボット兵器はそういうわけにもいかない
それから、定義の難しさの話
対人地雷禁止条約でも、対人地雷の定義を巡って色々もめたらしい
また、キラーロボット反対キャンペーンのユニークなところとして、平和や人権、軍縮に関係するNGOだけでなく、技術者や哲学者など新しいタイプの人々が参加していることをあげている
「特定通常兵器使用禁止制限条約（CCW）」では、2017年から正式な専門家会合が行われていて、一歩一歩進んでいるもののスピードは遅い。ただし、これはCCWがコンセンサス（全会一致）方式をとっているので予想できたこと、とも
この手の話だと、規制消極派も含めて一致できる緩い規制条約を作るか、積極派の有志国だけで全面禁止条約を作るか、というのが出てきて、後者は大国が参加しないので実効力がなくなるというのはよく言われるのだけど、ここでは、全面禁止条約を作ることで「スティグマ化」することが重要だとあった
日本については、開発する計画はないと明言していることを評価しつつ、「条約ではなく法的拘束力のない文書を作りましょう」という主張の国々の1つなのは残念だ、とも。また世論調査での関心の薄さなど

AI兵器をどう規制するか　岩本誠吾

規制についての議論の流れ
2013年NGO「キラーロボット反対キャンペーン」発足→2014年からCCW内で非公式会合→2017年から公式会合へ格上げ
CCWで議論されるにあたって明確化された討議対象は
（１）「現存する」ではなく「出現しつつある」兵器、（２）「対物破壊用」ではなく「致死性」兵器（３）技術全般ではなく「LAWS分野」における技術
また、LAWS議論には二つの特徴がある
（１）「事前・予防的・想像的」な討議であること
（２）国際法の適用を再確認する必要があったこと
現時点での合意事項として、兵器システムのすべてのライフスタイルで人間の責任が関わることが肯定されている
「有意義な人間による制御」という言葉がキーワードらしく、他の記事でも出てきたし、関係者の中でよく使われているらしいが、この言葉を巡っても色々あって、「有意義な」なのか「適切な」なのか「制御」なのか「関与」なのかとかそういった色々な表現が提案されているとか
人間が関与すべきということには同意がとれつつも、どのようにという点では意見がわれている
イスラエルは、研究開発から起動まで人間は介在しているので、起動後は人間の関与は不必要という立場
規制議論のアプローチについては、規制積極派、現行法で対処可能なので新条約不要派、そして法的拘束力のある条約ではなく拘束力のない政治宣言をまず出す派の大きく３派にわかれる
アフリカや非同盟諸国が積極派、米英ロイスラエルなどが新条約不要派、独仏日本などが３番目のグループ
ちょっと気になるのが中国で、中国はなんと禁止積極派なんだけど、開発ok使用禁止派で、他国をけん制する戦術とのこと
CCWが過去に行ってきた法規制として、地雷とクラスター爆弾がある
地雷の時は、地雷議定書を締結したあと、積極派がさらに厳しい対人地雷禁止条約を締結しており、条約反対派は議定書を受け皿とできた
一方、クラスター爆弾の時は、先に有志諸国だｋで禁止条約が採択され、その結果、規制交渉が中断されたことで、条約に反対する国には受け皿がなく、軍事大国が何も規制されない無法状態になってしまった、と
軍事から離れて、AI一般について、人間中心の価値観でという政治宣言がOECDやG20とかでなされていて、LAWS規制新条約不要派も規制に歩み寄る可能性はあるのでは、というのも最後に少し触れられている

進化するAI兵器　問われる科学者　千葉紀和

デュアルユース問題
アメリカ、中国、そして特に日本において、軍が大学・民間の研究にお金だして開発を進めようとしている件について

ロボット兵器の倫理的問題　殺人の自動化というテクノロジー　久木田水生

自律型兵器の倫理問題
まず、よく言われているものとして下記のような論点があるとする
（a）国際法違反：民間人への付随的被害
（b）責任の所在
（c）新たな軍拡競争
（d）テロへの転用
（e）軍人の徳の崩壊
（f）戦争の像か
まず、（c）と（d）は自律兵器固有の問題ではない、（a）は自律兵器それ自体の問題ではなく性能の問題、（b）は自律兵器固有の問題であり、かつ性能に帰せられる問題でもないが、責任を取る人間が誰か制度的に決めておけばよいので解決可能な問題、としてここでは取り扱わないとする
（e）と（f）も自律兵器固有の問題だが、（e）は紙幅の都合で取り上げず、（f）を取り上げるとする
自律型兵器の利点として、自国の兵士の危険を減らせるというものがある
兵士たちがリスクのある「労働」をすることなく、ロボットがその「労働」を代わりにすることで、勝利や安全という「価値」を享受できる、と
ところで、こうした自国の兵士のリスクを避けることが、敵側の民間人の犠牲を正当化することがないだろうか、ということを、実際に行われているドローン攻撃の事例から論じている
「暗殺」ともいうべきドローン攻撃が行われている。ドローン空爆は地上部隊による作戦に比べて、作戦成功率は高いが、標的以外の犠牲者は多い、とのこと
ドローン攻撃は、自国の兵士の犠牲は減らすが、敵国の民間人の犠牲を増やす。
最後に筆者は、道具は使い方次第・使う人次第だとは考えない、という考えを述べている。
道具には、人間の思考や行動を一定方向で誘導しやすいバイアスがあるのではないか、と。だから、道具の特徴と、その道具がどのように人間に心理的影響を与えるか、どのような行動に駆り立てるかを考える必要があると締めくくっている。

他の本

ロボット兵器というと、やはり
P･W･シンガー『ロボット兵士の戦争』 - logical cypher scape2だろう。
一方、未読なのだが、最近、無人の兵団――AI、ロボット、自律型兵器と未来の戦争という本も出ていて、気になっている。
あと、少し前の本だけど、ドローン関係でハンター・キラー　アメリカ空軍・遠隔操縦航空機パイロットの証言　（角川ebook　nf） (角川ebook nf)とかも、未読だけど気になっている。

ロボットと法ということでいえば、弥永真生・宍戸常寿編『ロボット・ＡＩと法』 - logical cypher scape2があり、この中で、ロボット兵器についても一章割かれている。
よく見ると、上の「AI兵器をどう規制するか」を書いている人と、この本でロボット兵器の章を書いている人、同じ人だ

また、ロボット倫理学という分野も勃興してきている。
上で「ロボット兵器の倫理的問題」を書いている久木田さんもロボット倫理学やっている人
最近だと、これまた未読なのだが、ロボットに倫理を教える―モラル・マシーン―とかロボットからの倫理学入門とかが出ている
ロボット兵器の話は直接出てきていないが、『ロボットに倫理を教える』の翻訳者による内容紹介→
ロボットに倫理を教えるということ.pdf - Google ドライブ