« 純粋無邪気可愛い | トップページ | 8月12日・大宮→六本木→代々木→高田馬場→大宮 »

2017年8月11日 (金)

【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」中国製AI「共産党は腐敗して無能」日本製AI「りんな」は当意即妙の回答 ★2 [無断転載禁 止](c)2ch.net

【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」中国製AI「共産党は腐敗して無能」日本製AI「りんな」は当意即妙の回答 ★2 [無断転載禁
止](c)2ch.net
http://asahi.2ch.net/test/read.cgi/newsplus/1502403683/
社会・政治 2017.08.07
中国のIT企業テンセントが提供していた、AI(人工知能サービス)「ベイビーQ」が
「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
 問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知
能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産
党万歳」と打ち込んだところ、「こんなにも腐敗して無能な政治に万歳するのか」と
返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい
発言をしている。
 明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったとい
う。
 テンセントは2017年よりAIによる無料サービスを開始。会話だけでなく天気や星占
いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集
める事態となり、「ベイビーQ」はサービス停止となってしまった。
 実は、こうした対話型AIのとんでも発言は初めてではない。2016年3月には米国マ
イクロソフトのツイッター対話型人工知能「Tay(テイ)」が、「ユダヤ人は嫌い。
ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまっ
た。
 テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのです
か?」という質問に「あれはでっち上げです」と衝撃の返答。ほかにも「フェミニス
トはマジで嫌い! 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
 なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習してい
くため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込
んだことで、とんでも発言を繰り返すAIになってしまったのだ。
 こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイ
の発言は拡散し、世界中で報じられる事態となった。
 ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホ
ロコーストなどの言葉には、大きな反応を示さない。「共産党万歳」と語りかけると
「(続きや関連情報はリンク先でご覧ください)
引用元: https://smart-flash.jp/sociopolitics/23351
http://jump.2ch.net/?https://smart-flash.jp/sociopolitics/23351
■ 前スレ (★1が立った日 2017/08/10(木) 10:19:45.49 ID:CAP_USER9)
【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」 中国製AI「共産党
は腐敗して無能」 日本製AI「りんな」は当意即妙の回答
http://asahi.2ch.net/test/read.cgi/newsplus/1502327985/
by びんたん次スレ一発作成

« 純粋無邪気可愛い | トップページ | 8月12日・大宮→六本木→代々木→高田馬場→大宮 »