sugarless time

前書き
目次
レビュー
まとめ
おまけ

前書き

以前【ロボット法】についてのレビューを投稿しました。

今回もそっち関係の書籍レビューになります。
【ロボット法】は2017年に初版発行、こちらの初版(翻訳版)は2019年発行ですが、翻訳前の初版は2009年に発行されており、今から15年も前のものになります。

序章
第1章なぜ機械道徳なのか？
路面電車の運転手とロボットのエンジニア
倫理的な殺人機械？
差し迫った危険
第2章道徳の工学
それはエンジニアの義務なのか？
ムーアによる倫理的エージェントの分類
第3章人類はコンピュータに道徳的な意思決定をしてほしいのか？
恐れと魅力
意思決定の責任をコンピュータに丸投げする。
羊の皮を被る
兵士、性玩具、奴隷
テクノロジーのリスクを適切に評価できるのか？
未来
第4章（ロ）ボットは本当に道徳的になりうるのか？
配慮すべきテクノロジー
 人工知能－そのアイディアの核心
（ロ）ボットは本当の道徳的行為者になりうるのか？
決定論的システムの心理学
理解力と意識
AMAには未だ何ができないのか
AMAを評価する。
第5章哲学者、エンジニア、AMAの設計
二つのシナリオ
共同作業を基礎づける
誰の道徳？どんな道徳？
トップダウン・アプローチとボトムアップ・アプローチ
第6章トップダウンの道徳
道徳理論を働かせる
全知のコンピュータは必要か？
ロボットのための規則
上位規則の計算
トップからボトムへ
第7章ボトムアップで発達的なアプローチ
有機的な道徳
人工生命と社会的価値観の創発
学習機会
モジュールを組み合わせる
ボトムからトップへ
第8章トップダウンとボトムアップを融合させる
ハイブリットな道徳的（ロ）ボット
ヴァーチャルな徳
徳に対するトップダウン・アプローチ
コネクショニズムの徳
ハイブリットな徳倫理
第9章べーパーウェアを超えて？
最初のステップ
倫理的には道徳的
事例を明示化する
事例から暗黙裡に学習する
マルチボット
不服従ロボット
SophoLab
べーパーウェアを超えて？
第10章理性を超えて
なぜスポックよりもカーク船長なのか
道徳的意思決定のための合理性以外の能力の重要性
情動的知能
認知節あるいは身体説のとっての計算上の課題
感覚システムから情動へ
アフェクティブ・コンピューティング（1）－情動を検知する
アフェクティブ・コンピューティング（2）－情動をモデル化し使用する
人間とロボットの相互作用－Cogとキスメットを超えて
他車の心と共感
心の理論と共感
マルチエージェント環境
ロボットはどのように身体化されなければならないのか？
第11章もっと人間に似たAMA
あるものを集めたら何が手に入る？
LIDモデル
人間の道徳的意思決定とLIDA
ボトムアップの傾向・価値観・学習
規則を含んだ道徳的熟慮
計画立案と想像力の実装
解決、評価、さらなる学習
もっと先に進む
第12章危険、権利、責任
明日の見出し
未来学
責任、法的責任、行為者性、権利、義務
歓迎か、拒絶か、それとも規則か？
エピローグ（ロ）ボットの心と人間の倫理

レビュー

本書はタイトル通り”ロボットに倫理を教える(Moral Machines Teaching Robots Right from Wrong)”です。
ゆえに前回投稿した【ロボット法】とは多少は異なるように感じて読み始めたのですが、内容的には似通うところが多々あります。
語弊はあるかもしれませんが、倫理とはやさしい言葉に言い換えると道徳、マナーでも良いと思います。
法というのはこれも一概にすべてとは言い切れませんが、ヒトが定めた”効力”のある倫理観とも言えます？

目次でも解るかもしれませんが、この問題の難解さを1冊にまとめるのは無理があるのか、全体を通してみると話がいろんなところに飛んでいて1冊の本として考える時にまとまりがないように感じます。
でも、それは専門性も追求しつつ解決するための問題の多さを網羅すると、このようになってしまうのも致し方ない。
ですから専門家には物足りない内容かもしれませんが、専門家でないヒトにとって読み物としては広く浅く知れるということで良書だと思います。

また、本書のなかで触れているロボットに倫理を教えるうえでのトップダウン/ボトムアップですが、倫理観というはトップダウンであり、これはヒトによってに縛られています。

ロボットに置き換えると、プログラムを作ったヒトの倫理観通りに動作するのですから、これはトップダウンですよね。

ボトムアップは本書では例として、20世紀の研究者が提起したヒトが生まれてから成長過程で学んだり身につけていく倫理観、ロボットもヒトのように成長過程で倫理観を覚えていくことでヒトと同じ様な倫理観を学習していくといったことを示しています。
ロボット（AI）の学習については今では普通に出来ていることですから、倫理観を成長過程のなかで学習するというのも面白いと思えました。
但し、ヒトの倫理観って多くの場合、育った環境においてトップダウンで教えられるものですよね。
すなわちヒトと同じ倫理観といってもヒトの倫理観が千差万別ですし、正解なんてないようにも思えるんですけど、どうなのでしょう？

ヒトによって倫理観は違いますが、ひとつの倫理の正否については概ね多数となるものが正となっているように思えます。

だとしたらヒトによって多数と思われる倫理観を学習させていけばいいんでしょうけど、多数と思われる倫理観も国や人種によって変化しますし（法律もそうですけど）、
正しいとは何なのか解りません。

そもそも私たちの持つ倫理観は日本基準であって、それを他者にも求めますけど（日本国内でも倫理観の欠片もない人はいますが）、国名を列挙したりしませんが、某国などなどの倫理観は日本人からしたら相容れないものも多々あると思います。

例えば、倫理観ではなく法律になりますが日本で製造された兵器ロボットは迎撃はするけど自ら攻撃はしないけど他の国の兵器ロボットは好戦的なんて話になります。

本書ではトップダウンとボトムアップの片方だけではなく”トップダウンとボトムアップを融合させる”という形で最適な手法についても触れてますが、やっぱり、手法も大事ですけど世界標準が先にないと駄目なんじゃないですかね（国際人道法とかあっても守らない国が普通にありますけど）
倫理観を多数派で考えると、今ではインドの倫理観が世界標準になるかもしれないので、これからはヒトもインドの倫理観を学ぶ必要がありそうです（笑）

まとめ

本書は冒頭に記載した通り2009年に発行され、全訳は2019年に発行されています。
技術的な話はもちろん最先端とは程遠いのですが、ロボット（AI)の倫理感や道徳観、そして法律などについては古さをまったく感じさせないところが面白いというか恐ろしくもなります。
前回投稿した【ロボット法】でも似たようなことを書いてますが、科学の進歩が速過ぎて、倫理観、道徳観、法律がまったく追いついていない。
正しくは開発者、研究者がその点を排除しているとさえ思います。

例えばドローンなどはその性能によって変わってきますが極端な話どこでも行けます。
羽田空港の滑走路だって行けちゃいます。
実際はそんなことはないんですけど、それはヒトの倫理感や法令順守によって行かないだけの話です。
技術的にはドローンが自律的に危険区域に侵入できないような仕組みなんてやろうと思えば出来るのにです。
ヒトの倫理観（や道徳観）に任せているということは悪意があればなんでも出来ちゃうってことです。

外国人が日本国内で日本人なら絶対飛ばさないような場所でドローンを飛ばした！なんてニュースになったりしますが、これって法律とか崇高な話ではなくて私的には単なる倫理観の相違と思ったりします。

引き続きドローンを例にしますが、トップダウンの倫理観や道徳観を組み込むことへの技術的なハードルはそれほど高くないと思います。
法律やマナー（倫理観/道徳感）をプログラムに組み込み、動作する前に動作の是非を判定するだけです。
自治体ごとの条例などは位置情報から該当する条例をサーバー経由で読み込ませるなどすれば、使用する場所ごとの法令を自律で順守することも難しくはありません。

しかし、そんなものを誰も欲しがらない。コストは嵩む、自由度はなくなるしでメリットを感じませんが、使用者の倫理観や道徳観が社会問題にまで発展したときには法による縛りが発生すると思います。
最初から法に照らし合わせた設計をしていたら（当然価格も高く）、これほどまでに世の中に広まらなかったかもしれませんが、これからのものづくりは設計段階で考慮する必要があるようにも思えますね。
国内使用限定なら、その国の標準的な倫理観と法令順守で、そして世界をターゲットにするならインド標準で（笑）

おまけ

本書（目次にもある）”AMA”とはなんなのでしょうか？
最初に目次を見た時に疑問に思いました。
単純に私の知識不足なのかなと思う反面、新たな知識をインプットできる喜びも感じてたのですが・・・
”AMA”とは”artificial moral agents（人工道徳的エージェント）”の略語ですが、”AMA”で検索しても何もヒットしません。
”artificial moral agents”で検索すると英文の学術記事（論文を含む）がヒットしますが、”人工道徳的エージェント”で検索すると・・・
本書がヒットするだけですので人前で使ってもポカーンとされるだけなので覚えなくても良いです（笑）
要約すると倫理観をロボットに持たせるための手段・手法といったことです。