orangeitems’s diary

クラウドではたらくエンジニアの日々の感想です。

Alexaが突然笑い出すというニュースを読んで思うこと

f:id:orangeitems:20180308130808j:plain

Amazon Echo (Newモデル)

 

突然、自発的に笑い出すAIスピーカー

こんな記事を読んだ。AmazonのAIスピーカー、Amazon Echoを使っていると、突然笑い出すというトラブルがアメリカで多発しているらしい。まだ日本では報告はないが、Amazonは修正すると言っているということは事実のようだ。

www.itmedia.co.jp

 米Amazon.comのスマートスピーカー「Amazon Echo」シリーズが突然笑い声を上げると米国で話題になっている。2月にユーザーがその声をTwitterで投稿したのをはじめとして、多数のユーザーがTwitterやredditで報告している。

スポンサーリンク

 

考察 

「はーっはっはっはははh」

と就寝中に急にスピーカーに笑われたら、超びっくりするだろう。

それはそれでホラーであり笑い話なのだが、少しこの話は深い部分があると思った。普通の機械は、人間が何らかの入力を行うことで初めて動き出す。突然動き出すことはしないと思う。電子レンジでも給湯器でも、ボタンを押して初めて動き出す。音声入力中心のAIスピーカーでもそれは変わらないと思っていた。

「突然笑い出す」

ということは、人間の指示なしに、何かをAlexaはやっていて、その処理の中で誤って笑い出すプログラムを動かしたということになる。笑い出させるためのトリガーすら自発的に生み出したということになる。Alexaは、ユーザーの知らないところで、何かをやっている。何かが笑いを生み出したということになる。

「Hey, Siri。明日7時に起こして」

ということとは違う。これはあくまで動作予約にすぎない。何も指示していないのに何かをやっていたということだ。Amazonは、AIスピーカーを家庭に置いたうえで、家族が何も知らないうちに、何をやっているんだろう。

だんだん、哲学的な話になってくるが、人間と機械の信頼関係とは、機械は人間の言うとおりに動き、言ったこと以上の範疇では動かないことから成り立っていると思う。急に冷蔵庫が時速100キロで走り出したらどうか。テレビが急に3Dになったらどうか。思ってもないことをする機械など誰も買わないだろう。この信頼関係を、不安にする今回の「はーっはっはっはははh」である。

おそらくAIスピーカーの意義としては、ユーザーが明確な指示をせずとも、何らかの提案を行ってきたり、最適な答えを導いたり、いわゆる「かしこい」を期待されていると思う。でも、想定外は期待されていないと思う。

新しいもの好きがとりあえずAIスピーカーに飛びついている状況だが、この市場に参入する企業はよほど考えておかないと、人間と機械の信頼関係にヒビを入れてしまいかねないと思う。なんでもAIにユーザーを先回りさせてやらせたらいいと思うと痛い目にあると思う。私なんて、ペッパーみたら遠ざかる。ペッパーやたらこっちの方をガン見してくるし、大声でしゃべるから周りに注目される。結局のところ私も機械との信頼関係うのは、こちらが指示した通りにやってくれるとか、その体験(UX)が心地よいとか、そういう尺度で成り立っていると思うし、それを踏まえていないAIのサービスは、気持ち悪くて仕方がない。

 

・・なんてことを、「はーっはっはっはははh」に思った昼の午後でした。