ダニエル・スアレスのTEDトークを興味深く見た。
ダニエルは新進SF作家ですでに三冊のベストセラーをものしている。
彼は小説でロボットによる殺人を描いているが、このプレゼンテーションでは軍やテロリストにより実際に行われているロボットによる殺人攻撃に警鐘を鳴らしている。
今や米軍の無人飛行機が上空から監視している時代である。
ときには対物あるいは対人攻撃もする。
ただし、米軍は視覚センサーを使って基地で攻撃対象を人間の眼で確認してから攻撃していると主張している。
でも関係ない非戦闘員が犠牲になるケースは後を絶たない。
無人飛行機は地上からの無線制御で動いているので、攻撃される側は妨害電波で防御できる。
だから攻撃側も無線制御ではなく、人工知能(AI)を飛行機や武器に持たせて、自律的に攻撃判断をさせることになる。
しかしこのようにAIが兵器に導入されると、戦争が無人化してしまう。戦争のあり方が大きく変わってしまう。
戦争の歴史は人類の歴史だ。かつて兵士の質より数を求めるように戦争が変わったから、近代国家が生まれた。
無人化が進むと、民主主義も不要になり独裁国家が現れる。
それは困るので(と言う点が米国的だが建国の精神に反するのだろう)AIを戦争に参加させてはならない。
しかも米国だけでなく国際条約を結び各国で批准するべきだという。
リモコンの無人戦闘機は構わないが、AI戦闘機は困るというのは、銃社会米国の論理だ。
日本人は戦争自体を否定したがるから、なかなか話がかみ合わない。
まずSF作家の大先輩アイザック・アシモフのロボット工学三原則(人に危害を与えず、それに反しない限り人の命令に服し、それらに反しない限り自衛せよ)はどこに行ったのか?
何が危害か考えると確かに矛盾の多い原則だが、これをたたき台にして、国際条約を作るべきだ。
その条約では、組み込みシステム(OS)やAIにまず人を殺さないことを最重要ルールとして埋め込む。
それに違反したシステムを作ると処罰の対象となる。
でも工学者も情報科学者も法律に疎いし、雇われている企業の言いなりだから、自分の開発するシステムにやって良いことと悪いことを教えたりしない。
法学者も法学者の方で、現代の科学技術についていけない。
だから、無人戦闘機やAI殺人鬼が野放しになる。
2045年問題が起きる前に歯止めを掛けなければいけない。
さて、プレゼンテーションを字幕で見ていたら「ロボットにプライバシーは要らない」と彼は語った。
ここに手塚治虫の「鉄腕アトム」世代の日本人なら、強く反応するだろう。
ロボットの人権が「アトム」の一つのテーマだったからだ。
しかしわれわれは心のどこかでアンドロイド(人造人間)が代わりに働いてくれる社会を期待している。
そのアンドロイドを奴隷のようにこき使う姿も予想している。
そこで表題だが、「イヴの時間」というSFアニメ映画がある。
ポスト宮崎駿、庵野秀明の一人、吉浦康裕が原作と脚本を書いて演出した作品だ。
お手伝いアンドロイドが実用化されて間もない時代。
サミィは家事一切を行う女性型アンドロイド。言われたことを従順にこなしているだけ。リクオという高校生だけが命令することが出来る。
サミィが買い物に出てもどこにいるか携帯で追跡できるが、最近同じ場所に出入りしている。
リクオは不審に思ったが、サミィに問い質すのではなく、その場所を訪れることにした。
どこにでもある喫茶店だった。
ただ一つ違う点は、その店内では「人間とロボットを区別してはいけない」ということ。
確かに大勢のロボットが客に紛れ込んでいるが、外見からはわからない。
またロボットか否かを問うことも店内ではルール違反だった。
リクオは
、その店にたびたび通うようになって、ロボットが実はさまざまな感情を持っていることを知る。
その店は、ロボットが休息するためのプライベートルームだったのだ。
スアレスは勉強不足で、日本のSFやアニメを見ていないんじゃないかと思った。
しかし英語字幕を見て、日本語訳が下手な意訳だったことに気づいた。
彼はこう言っていた。
“No robot should have an expectation of privacy in a public place.”
おそらく彼もロボットのプライバシーを配慮しているだろう。