気ままな毎日

アクセスカウンタ

zoom RSS 暴走する?AI

<<   作成日時 : 2017/08/07 22:35   >>

ブログ気持玉 0 / トラックバック 0 / コメント 0

今日、朝からやたら天気がよかったが、天気予報では夕方から大雨ということだったので、長傘をもっていった。
大雨に会うことはなかったが、それでも、会社の帰りに道を歩いていると、瞬間的に大雨が降ったりする。
それにしても、この天気の激しさは、少し異常だと思う。
そもそも、この天気のせいで、湿気がやたらと高く、電車を降りたら、メガネが曇ってしまった。
カラっと晴れるか、ざっと雨がふるか、どっちでもよいけれど、横殴りの雨はこまるね。びしょぬれになってしまう。
は〜あ、いやになっちゃうね〜、トホホホ・・・。
さてさて、中国のおしゃべりロボットが、大暴走中だった。いまは、いろいろと横やりで、修正がはいって、おとなしくなっているが、先日までは、ネットで大賑わいの状況をつくっていた。
そもそも、中国のインターネット・サービスの大手「騰訊(テンセント)」などが開発した、AI対話プログラムが、インスタント・メッセンジャー「QQ」やWeChat(ウィーチャット)に登場した。
その仕組みが、AIによる自動応答で対話をするが、”共産党万歳!”と入れると、”こんなに腐敗して無能な政党なのに、それでも万歳なんて言えるの?”と返す。
さらに、あなたの"中国の夢"は何ですか?”に対しては、”私の"中国の夢"はアメリカに移民することです。とっても真実味がある”と返して、中国では大問題となったそうだ。
そもそも、インタネットにおいては、検閲は当たり前で、天安門などが検索できなかったりするぐらい、多くの人によってネットは監視され、キーワードも隠されたり、検索対象から外れたりする。
そんな中で、この応答は、絶賛に値する。どうやって、このAIが勉強したのか、さっぱりわからない。ネット社会を監視下においている中国の共産党だから、不穏当な話はすべてガードしているはずなのに、その監視下で、多くの情報をAIに教えこませたんだろうね。いまは、チャットなどの情報が、あまりにも大量すぎて、監視がおいつかないために、誤った(もしかしたら、正しい?)学習が行われて、さきほどの回答になったようだ。
しかし、すごいよね〜。中国の夢は、アメリカ移住なんて、返したら、国家主席は驚いて、腰を抜かしたかもしれない。
当然、この手の情報は、中国政府にあがり、テンセントのポニーマーもびっくりしただろうね。このまま放置したら、間違いなく、政府にとらえられて、監獄いきだからね。
あわてて、プログラムを書き直し、いまでは、あぶない質問には、”わたしたち、何か話題を変えません?”とか、”あなたなんか、相手にしたくない”などに回答がかわっているそうだ。
AIってこんなことあるような気がする。この先も、おかしな情報を教え込まれて、容易に回答してしまうと、こんな問題が多く発生する可能性もある。
AIに人がもてあそばれないようにする仕組み、工夫ってやっぱり必要だと思う。どうなんだろうね・・・。

※これって、暴走じゃないのかもしれない。

AIの衝撃 人工知能は人類の敵か (講談社現代新書)
講談社
小林 雅一

amazon.co.jpで買う
Amazonアソシエイト by AIの衝撃 人工知能は人類の敵か (講談社現代新書) の詳しい情報を見る / ウェブリブログ商品ポータル


テーマ

関連テーマ 一覧


月別リンク

ブログ気持玉

クリックして気持ちを伝えよう!
ログインしてクリックすれば、自分のブログへのリンクが付きます。
→ログインへ

トラックバック(0件)

タイトル (本文) ブログ名/日時

トラックバック用URL help


自分のブログにトラックバック記事作成(会員用) help

タイトル
本 文

コメント(0件)

内 容 ニックネーム/日時

コメントする help

ニックネーム
本 文
暴走する?AI 気ままな毎日/BIGLOBEウェブリブログ
文字サイズ:       閉じる