(日曜に想う)

  AIが引き金を引く前に 

   編集委員・福島申二


      2018年10月14日05時00分 朝日新聞





 その名称は無機的にして無表情だ。

 「自律型致死兵器システム」。およそ耳慣れないが、人工知能(AI)を搭載し、機械独自の認識と判断によって敵を殺傷する兵器のことをいう。平たく言えば「殺人(キラー)ロボット」である。

 倫理面からの否定論や、感情に左右される人間より信頼できるといった肯定論がせめぎあう中、いささか古いが日英の作家2人の戦場体験に連想が飛んだ。

 一人は大岡昇平である。代表作の一つ「俘虜記」の中に、フィリピン戦線で敵兵を撃たなかった場面がある。

 マラリアに倒れ、撤退からはぐれて草むらに潜む大岡の視野に、若い米兵が入ってきた。至近距離、頬の赤さまでわかる。撃てば必ず当たる。無意識に銃の安全装置を外したが、ついに撃たなかった。米兵は視界から去り、大岡はつぶやく。「さて俺はこれでどっかのアメリカの母親に感謝されてもいいわけだ」

 英国のジョージ・オーウェルも撃たなかった体験を書いている。

 1930年代のスペイン内戦に参加したオーウェルはある日、ズボンを両手でたくし上げながら慌てて走る一人の敵を射程にとらえる。だが引き金を引かなかった。ズボンをたくし上げている人間は私と同じような一個の人間であって、どうしても撃つ気になれなかったと回想している(「スペイン戦争回顧」から)。

 これが殺人ロボットだったら――米兵の母は戦死報に泣き、ズボンの男は地に転がっただろうか――と想像してみる。

     *

 兵器・武器の人類史をひもとくと、古来よくもこれほどの情熱を、殺戮と破壊に捧げてきたものだと驚かされる。

 そうした歴史の中で、AI兵器は、火薬、核兵器に続く「第3の革命」となるおそれが指摘されている。従来の兵器はいかに高性能で強力でも「道具」にすぎなかった。しかしAIは、道具でありながら戦闘行為の「主体」として人間に取って代わる可能性をはらんでいる。

 独自の「意思」で敵を認定、攻撃して殺すところまでやってしまう。AI兵器の極めつきの殺人ロボットはまだ開発途上だとされる。しかし米英やロシア、イスラエルなどがしのぎを削っていて、実用化はいずれやってくるだろう。

 自国兵士や一般市民の死傷を減らせるといった主張もあるが、逆に戦争への抵抗感が薄れ、武力行使のハードルを下げてしまう心配もある。8月には規制を話し合う国連の会合が開かれたが、米ロなどは歯止めに消極的な姿勢だという。

 ひとたび戦場に投入されれば、原爆に続くパンドラの箱を開けることになりかねない。一度開いた箱を封じることの至難は、核兵器が実証済みである。

     *

 谷川俊太郎さんが「兵士の告白」という短い詩をつくったのは、ベトナム戦争が泥沼化していったころだ。

 〈殺スノナラ/名前ヲ知ツテカラ殺シタカツタ〉と始まり〈ナキナガラ殺シタカツタ〉で終わる詩句は、殺す側の暗い葛藤を稲妻のように照らしだす。

 人間は、戦場にあっても容易には人を殺せないらしい。第2次大戦中に米軍は大がかりな調査をした。すると戦闘中に敵に発砲した米兵は15~20%にすぎなかった。その後、特殊な訓練を兵士に施して、発砲率を90%まで高めたのがベトナム戦争だった(グロスマン著「戦争における『人殺し』の心理学」から)。

 ほとんどの人間には同類である人間を殺すことに強烈な抵抗がある、と著者は言う。となれば、そうした人間的要素をそぎ落としたのが殺人ロボットということになる。人間(の命)へのまなざしを欠くAIに、生殺与奪の権を握らせることの意味を考えずにはいられない。

 原爆の開発と使用を悔やみ抜いたアインシュタインが、投下数カ月後に言っている。「弾丸にたいしては戦車が防御手段になりますが、文明を破壊しうる兵器にたいする防御手段などありません。私たちの防御手段は法と秩序です」

 およそ科学技術の発展には恩恵と呪いの両面がある。呪いには規制が要る。AI兵器をめぐるきわどい議論を、専門家だけのものにしておく時ではない。