orangeitems’s diary

クラウドで働くインフラエンジニアの日々の感想です(ほぼ毎日更新)。

私がAIを使って世界を混乱に陥れるとしたら

f:id:orangeitems:20190610123127j:plain

 

AIの危険性

にせものの国連演説文をAIが作成したとの記事を読みました。

 

japan.cnet.com

先ごろ公開された調査研究報告によると、人工知能(AI)モデルはわずか半日で偽の国連演説文の書き方を覚えてしまうという。

 

国連演説文を自動作成できるから危険、というのはなかなか一般の人々にピンと来ないのではないでしょうか。誰かが困る感じがしません。

私ならこうできるかな・・という案を私も警鐘をこめてまとめてみます。

 

私がAIを使って世界を混乱に陥れるとしたら

私ならSNSに目を付けます。

例えばツイッターを利用します。

 

第一段階

ツイッター上で架空の人格を作成し、日常のコメントを不定期にポストします。

これなら単なるBotですが、ここでAIを使います。

もし、フォローされて何かコメントがついたら、AIを利用して気の利いた返答を返すのです。誰もAIがコメントを入れているなんて気が付きません。

単なる言語解析ではなく、行動傾向まで実装し、それに対してAIがコメントを入れます。説得力を増すために、インターネットからその言葉が関係する写真を取り込み、ある程度のフェイクを入れてポストしてもいいと思います。

これを一定期間繰り返します。

そして、そのAIのモデルとなるバックグランドの近い人のアカウントをフォローし、つながります。そうすると、もっと人間っぽくなります。

ここまでがまず第一段階です。

このAIアカウントの運用だけでは何も世界に混乱は引き起こしません。

まあ、AIアカウントを人間だと思い込む、フォロワーには気の毒ですが。

そうやって、AIアカウントが、SNS社会に潜り込んでいくのです。

 

第二段階

AIアカウントを量産します。

AIアカウントはインフルエンサーになってはいけないと思います。なりそうな気配があったらアカウントごと消します。人間でもそういうことはあるでしょう。

あくまでも目立たないように、AIアカウントを増やしていきます。

 

第三段階

さて、ここからが本番です。

AIアカウントに、特定の思想、意見を語らせます。

特性の政党の政策を支持する意見でも構いませんし、あるいは拒否を示す意見でも構いません。

事前に、いろんなロジックをAIに学習させておくことは必要でしょう。ただ、根底には特定の思想があります。

これをAIアカウントにしゃべらせると・・、どうなるでしょうか。

間違いなく人間が引っ張られます。

 

もっと怖いのは、上記のことを考えている人が複数いて、真反対の意見が存在するときです。そうすると、議論になりますがそれすらAIアカウントが自動で行います。

結果として、SNSは混乱状態になるでしょう。だって、AIなのか人間なのか誰も見分けがつかないのですから、人間が総体として何を考えているのか非常にわかりづらくなるのです。

「AIか人間かなんて、わかるよ」と思う方もいらっしゃるかもしれません。しかし、あなたのフォローが100人いるとして、そのうちの1人が実はAIアカウントかもしれません。フォローしている場合はある程度信用度が高いので、実はAIだと疑うことすらできないと思います。「あなたはAIですか?」ってAIアカウントに尋ねても、「ちがいますよ~www」「いえ、違います。」と答えてくるはずです。

SFの世界で、人間社会に実は宇宙人が潜んでいる、なんて言う話はよく作られるのですが、実はSNSの世界においてはそんな状況が実現してしまうのではないか、と危惧しています。そして世論を操ろうとする技術が今この時代に生まれようとしているのではないでしょうか。

 

手法としては古くて新しい

自分の身の回りの意見を、第三者が操作して世論を誘導するというのは、実際新しいものではないと思います。古くは新聞、テレビなどで行われているオールドメディアでの印象操作は有名で、もはや国民の方が慣れているのではないでしょうか。オールドメディアが煽っている通りには政治の世界が流れないようになっていると思います。

一方で、SNSに一般人のふりをしてAIが潜り込み、まことしやかに世論を誘導していく手法はまだ現実のものにはなっていないのですが、どう考えても技術的にはここ数年で実現しそうではないかと思うのです。できるできないで言えば、できる側に完全に振れています。

SNSメディア側も、AIアカウントの停止などはやりたいでしょうが、完全にAIアカウントが人間の日常的な生活とそれに対する反応をシミュレートできるようになったら、これは見分けがつかないでしょう。それほど、危険性の高い話だと思っています。

大群のAIアカウントに翻弄される人間たち、そんな近未来を阻止するためには、技術の進歩の一方で何らかの規制やルール作りがないと大変なことになるということを共有したいです。

 

追記

今回の記事とほぼ同時に、こんな記事が出ていました。

 

www.gizmodo.jp

Twitter(ツイッター)が発表したデータによれば、ロシアが情報操作のために使用したアカウントは3900個あり、 2018年10月のつぶやきは1千万ツイートにも上るそうです。Symantecの分析によれば、アカウントが作成されてからつぶやきが発信されるまで平均177日間かかっており、そこには実行前に綿密な計画があったことをうかがわせます。これらのアカウントは2016年の8月にほとんどすべてのアカウントが一斉に活動を停止するまで、それぞれ平均で429日活動を続けているとされています。

 

上記は人力ですが、手法としては同じですね。

もう誰かやってるかもしれないな・・。AIアカウント。