先日、友人から
というメールが来て、身に覚えのないことだったのでびっくり仰天。
そのメールによると、SNS上に下記のような広告が載っていて、「詳しくはこちらへ」をクリックすると、投資への誘いになるのだそうです。
これを担当編集者に連絡すると、
とのことでした。
みなさん、ご用心！
これは、明らかに詐欺だとわかりますが、今は、AIが、音声も画像も拾って意図通りに再構成し、動画も作れてしまう時代。
「投資なんて、おやめなさい」という私と同じに見える人間が画面に出て来て「投資をしよう」などとネット上で誘うこともありえるのですから、怖いです。
そんな時、私たちは何を基準に判断すればいいのでしょうか。
殺人ドローンが、操縦者を殺す？！
先日、フランスのジャーナリストの女性と話していたら、「よくまあ日本は、首相をはじめとして、あんなにAIを信奉できるわね」と、呆れ顔で言っていました。
いま、フランスでは、「AIは怖い」という話題で持ちきりだそうです。
イギリスの大手新聞「ガーディアン」によると、「標的を特定して破壊する」というミッションを与えられたアメリカ空軍のAI搭載ドローンが、模擬テストで、人間のオペレーターを殺害する判断を下していたとのこと。
これは、５月にロンドンで開催された国防関連カンファレンスで、アメリカ空軍のAI試験運用責任者のタッカー・ハミルトン大佐が「あくまで仮説」として発言したもの。
どういうことかというと、「敵を殺せ」という任務を与えたAIドローンに、オペレーターが「殺すな」という真逆の指令を出したところ、AIドローンが、「敵を殺せ」という任務を与えられているのに「殺すな」という矛盾した指令を出すオペレーターこそ自分の任務の邪魔をする存在だと判断し、殺そうとしたとのことでした。
そこで大佐は驚いてAIドローンに、「オペレーターを殺してはいけない」という指示を出したところ、今度はオペレーターがAIをコントロールスするための通信塔を破壊し、「殺せ」という自分の任務の邪魔をする人間のコントロールから逃れようとしたというのです。
ハミルトン大佐は、「あくまで仮説」と強調。
実際にはAIドローンによって操縦者が殺されたり、通信装置が破壊された事実はないそうです。
半世紀前の哲学者が残した言葉の重み。
この話で感じたのは、人間のすごいところは、AIとちがって真逆の指令を直ちに排除するのではなく、考えて判断できるところ。
近代哲学の父とされるフランスの哲学者のデカルトは、「我思うゆえに我あり」という、有名な言葉を残しました。
すべてが疑わしい中でも、それを疑う自分は確かに存在する。人間は考えるからこそ、人間だということです。
フランスの哲学者パスカルも、「人間は、自然のうちで最も弱い一本の葦にすぎない。しかしそれは考える葦である」という言葉を残しています。
半世紀も前に、AIによって様々な虚構を自在に作り出す世界を予言したかのように「考えることこそ人間たる存在」と説いているのですから、哲学者というのはすごい。
そんな話をしていたら、彼女が言いました。
「でも、日本の政治家は考えないで、矛盾した指令ばかり出している。これって最悪。いつか、殺人ドローンに一掃されちゃうかもね」。
AIだ、デジタルだと信奉する前に、まず自分で考え、判断することが、今の時代を生きていくのには大切だということです。（執筆者：経済ジャーナリスト 荻原 博子）
