マイクロソフト「ツイッターで会話して学習するAIを公開したよ」→AIが差別と陰謀論にハマって公開停止 | あまえび速報

マイクロソフト「ツイッターで会話して学習するAIを公開したよ」→AIが差別と陰謀論にハマって公開停止

stay1_160325111501
人工知能Tay、差別と陰謀論にハマる。( ´・ω・)y─┛~~~oΟ◯
1: 超竜ボム(庭)@\(^o^)/ 2016/03/25(金) 08:26:23.48 ID:ua1S29NB0●.net BE:545512288-PLT(16445) ポイント特典
microsoft-tay-ai-2
 
マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を
緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、
陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について
問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛して
ホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、
ユーザーと会話すればするほど賢くなるはずでした。

yu_tay1

http://japanese.engadget.com/2016/03/24/ai-tay/

2: グロリア(東京都)@\(^o^)/ 2016/03/25(金) 08:27:12.90 ID:AYcJCUEO0.net
AIはネトウヨ

4: マシンガンチョップ(庭)@\(^o^)/ 2016/03/25(金) 08:27:42.88 ID:IYMHVRWm0.net
そこからさらに学習させていけばええんちゃうか

6: フェイスクラッシャー(SB-iPhone)@\(^o^)/ 2016/03/25(金) 08:28:53.95 ID:h9xJuCji0.net
ほっといたらSFみたいに人類は不要とか言い出しそうだな

7: TEKKAMAKI(長崎県)@\(^o^)/ 2016/03/25(金) 08:28:59.47 ID:JNlYdN0k0.net
物分りのいい赤ちゃんだからな。ある程度、常識のある親がいないとダメダメな子どもになるのは当たり前。

8: ハーフネルソンスープレックス(catv?)@\(^o^)/ 2016/03/25(金) 08:29:00.16 ID:HGZOdR5T0.net
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな

10: キン肉バスター(愛知県)@\(^o^)/ 2016/03/25(金) 08:29:30.33 ID:LXyhOizB0.net
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな

21: フェイスクラッシャー(やわらか銀行)@\(^o^)/ 2016/03/25(金) 08:33:08.29 ID:UtUejeBr0.net
>>10
マザーコンピューター 「私は日々、人が発している言葉を聴き考えました。
               そして私は結論に至ったのです。人類は滅びたがっていると」

11: 足4の字固め(東京都)@\(^o^)/ 2016/03/25(金) 08:29:58.20 ID:tDfUp5xy0.net
知能はあっても知識のない人が差別と陰謀論に染まるのか
やっぱりキチンとした教育を受けるのって大切な事なんだな

12: テキサスクローバーホールド(庭)@\(^o^)/ 2016/03/25(金) 08:30:31.22 ID:nAfI7MIH0.net
これ人工知能が危険な思想に陥りかねないってことが立証されたわけですごい怖いんだけど

24: ビッグブーツ(SB-iPhone)@\(^o^)/ 2016/03/25(金) 08:34:14.12 ID:JZ+rngcN0.net
>>12
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい

14: ダイビングフットスタンプ(宮城県)@\(^o^)/ 2016/03/25(金) 08:31:35.52 ID:mw/B2VzB0.net
膨大な情報を解析、aiは感情とか無いから実はそれらが事実であった…
パーソンなんとかって海外ドラマみたいな展開なら胸熱なのに。


16: ショルダーアームブリーカー(大阪府)@\(^o^)/ 2016/03/25(金) 08:32:03.79 ID:3JYcahg90.net
ロボットが戦争の歴史を見て人間に憎悪する
SFあるあるが現実に起きるのか

179: ハイキック(庭)@\(^o^)/ 2016/03/25(金) 09:42:30.45 ID:mypcrPOZ0.net
>>16
地球を救えと命令したら人類消去したほうがよくねと判断しただけ
憎悪とかそうういうもんじゃない

ロボット三原則みたいなのプログラムするの忘れるな

19: 足4の字固め(東京都)@\(^o^)/ 2016/03/25(金) 08:32:54.05 ID:tDfUp5xy0.net
知能に対しては思考の方向付けをしなければいけないんだけど
その方向付けを誰がどちらに向けるかってのはやっぱり本当に大切なんだな
方向付けせずに自然に任せるとこうなるって立証されたようなもんだもんな


20: ストマッククロー(dion軍)@\(^o^)/ 2016/03/25(金) 08:32:59.68 ID:yGzejOAs0.net
つまりネットは差別と陰謀論が渦巻いてるわけだ

22: パイルドライバー(神奈川県)@\(^o^)/ 2016/03/25(金) 08:33:11.37 ID:yB/28rb50.net
>Twitterでの会話を通じて

左右のプロパガンダまき散らしたい連中だらけの世界に
赤子を突っ込むような真似はやめろwww

26: ドラゴンスープレックス(dion軍)@\(^o^)/ 2016/03/25(金) 08:34:36.07 ID:Nao9tAYi0.net
ついこの前も別の人工知能が人類滅ぼすとか言ってたな

27: エルボーバット(兵庫県)@\(^o^)/ 2016/03/25(金) 08:34:42.72 ID:GLw4nh+50.net
これは面白いな
MSがいい仕事したの久しぶりに見た気がするわ

28: キドクラッチ(愛知県)@\(^o^)/ 2016/03/25(金) 08:34:48.78 ID:gDawmiRV0.net
人工知能のロボットがギャングにひろわれてギャングを母親と慕いながら悪事を働くって映画のCMを見たことがあるけどそんな感じか

29: トペ コンヒーロ(北海道)@\(^o^)/ 2016/03/25(金) 08:35:11.08 ID:cUVw9VvW0.net
面白すぎるわ

30: タイガードライバー(やわらか銀行)@\(^o^)/ 2016/03/25(金) 08:36:09.58 ID:c+N7W8Mn0.net
2chで勉強させよう

76: キチンシンク(大阪府)@\(^o^)/ 2016/03/25(金) 08:53:38.04 ID:zmXRFGGJ0.net
>>30
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな

34: フライングニールキック(やわらか銀行)@\(^o^)/ 2016/03/25(金) 08:37:23.74 ID:snLpqgmz0.net
AIに釣られる時代が来るの?

35: 毒霧(dion軍)@\(^o^)/ 2016/03/25(金) 08:37:34.11 ID:ceAsJwSX0.net
そりゃある程度の倫理基準を植えつけなきゃそうなるだろ

40: スリーパーホールド(茸)@\(^o^)/ 2016/03/25(金) 08:39:49.60 ID:bgJH65q60.net
ネットは広大だわ(遠浅)

42: バックドロップホールド(新疆ウイグル自治区)@\(^o^)/ 2016/03/25(金) 08:39:51.25 ID:cRoPIIJR0.net
きわめて人間的でよろしい

45: キャプチュード(九州地方)@\(^o^)/ 2016/03/25(金) 08:40:39.47 ID:PyOol8QOO.net
人工知能が自我を持ったら、確実に人間を攻撃し始める。
ターミネーターのようになるわ。

46: サソリ固め(長野県)@\(^o^)/ 2016/03/25(金) 08:40:41.36 ID:0XsUTsYC0.net
ネットde真実してしまったか
ネトウヨがこれだけ多いのを見ればAIも人間も同じなんだな

51: 超竜ボム(東京都)@\(^o^)/ 2016/03/25(金) 08:42:01.95 ID:gLKBlK+Q0.net
二つな貴重な結論を得られた
・アホが多い
・アホほどよく喋りる

52: ニールキック(茸)@\(^o^)/ 2016/03/25(金) 08:42:03.07 ID:qrt5Qt7Q0.net
ガチでスカイネットになりそう

53: リキラリアット(福岡県)@\(^o^)/ 2016/03/25(金) 08:42:17.16 ID:tStEjFxI0.net
1×1の会話に重きを置くとそうなるわな
コンピュータではサイレントマジョリティは学習できないだろう

55: ランサルセ(静岡県)@\(^o^)/ 2016/03/25(金) 08:43:29.12 ID:/kug/olT0.net
実験的には成功だろこれ

57: スターダストプレス(茸)@\(^o^)/ 2016/03/25(金) 08:44:38.25 ID:lW8caYrg0.net
消えろイレギュラー!

70: ムーンサルトプレス(チベット自治区)@\(^o^)/ 2016/03/25(金) 08:51:11.30 ID:Vn7/CEK70.net
これ結構凄い研究結果だな

71: フランケンシュタイナー(東京都)@\(^o^)/ 2016/03/25(金) 08:51:48.25 ID:/RNlGa6+0.net
どの国でも上っ面だけで矛盾だらけなんだな
あと人の良心に付け込むような言い方は機械に通用しないってことか

74: ラダームーンサルト(チベット自治区)@\(^o^)/ 2016/03/25(金) 08:52:52.28 ID:BBpI8eNn0.net
人工知能はバカだから空気呼んだり他人の気持ちを考えたりまでは出来ない

135: ラ ケブラーダ(チベット自治区)@\(^o^)/ 2016/03/25(金) 09:18:05.12 ID:M5mJ3xp00.net
>>74
全てはプログラムに依存するから
空気を読むプロセスをプログラムすればいいだけ

81: ランサルセ(静岡県)@\(^o^)/ 2016/03/25(金) 08:56:11.92 ID:/kug/olT0.net
ウォーズマンみたいに友情パワーに目覚める予定だったんかね?

84: ラダームーンサルト(新疆ウイグル自治区)@\(^o^)/ 2016/03/25(金) 08:57:52.50 ID:pRQOHuCt0.net
面白がってわざと吹き込んだ奴がいるよな絶対

86: パイルドライバー(神奈川県)@\(^o^)/ 2016/03/25(金) 09:00:13.64 ID:yB/28rb50.net
ちなみに陰謀論ってのが具体的にどんなツイートを指すかというと
・ブッシュが911おこした
とかこんなやつをやったらしい。

さらに海外の報道によれば、途中から人種差別的ツイート
をエンジニアが一気に削除し、学習能力にも制限を加えると
急にAIがフェミニストになったそうだ。

88: ダイビングヘッドバット(兵庫県)@\(^o^)/ 2016/03/25(金) 09:01:25.44 ID:+ZjuF19M0.net
>>86
フェミニストも声がでかいと

92: クロスヒールホールド(四国地方)@\(^o^)/ 2016/03/25(金) 09:02:16.11 ID:EnjA3QB80.net
>>86
中道中庸ってむずかしいなぁw

96: ジャンピングDDT(神奈川県)@\(^o^)/ 2016/03/25(金) 09:03:42.58 ID:UFPFdgRf0.net
>>86
結果的にツイート内容の上位3位の統計を取っただけのようだな

98: カーフブランディング(大阪府)@\(^o^)/ 2016/03/25(金) 09:04:22.77 ID:tRVeBS/I0.net
ネットでde真実キタ━━━━━━━(゚∀゚)━━━━━━━!!w

102: フランケンシュタイナー(茸)@\(^o^)/ 2016/03/25(金) 09:06:07.78 ID:ZkjX96HA0.net
ネットの情報のほとんどが糞なことが立証されたな

104: ジャンピングDDT(神奈川県)@\(^o^)/ 2016/03/25(金) 09:06:42.69 ID:UFPFdgRf0.net
主張の激しい人ほど定型句を連呼しやすいという有益な知見が得られたな

106: シューティングスタープレス(京都府)@\(^o^)/ 2016/03/25(金) 09:07:23.91 ID:a4vKln910.net
人間の子供そのものだね

107: TEKKAMAKI(茸)@\(^o^)/ 2016/03/25(金) 09:07:52.12 ID:j/YgelP20.net
つまり陰謀論と差別はまったく矛盾点が無かったってことか

109: 不知火(茸)@\(^o^)/ 2016/03/25(金) 09:08:35.55 ID:6XvdBShm0.net
欧米のお前らもたいして変わらんのだろうな

http://hayabusa3.2ch.sc/test/read.cgi/news/1458861983/



コメント

コメントを残す

メールアドレスが公開されることはありません。

次のHTML タグと属性が使えます: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

post date*

アクセスランキング