これぞ純真無垢な人口無能!! Microsoftの「Tay.ai」によるTwitterの差別発言wwwww

2ちゃんねるまとめ SNSまとめ

1: 蝙蝠傘子 ★ 2016/03/29(火) 23:33:55.12 ID:CAP_USER*.net
Microsoft Research担当バイスプレジデントのPeter Leeは25日、同社が23日に公開したAIチャットロボット「Tay.ai」がTwitter上で、人種、宗教、性差別などのほとんど関変え得る全ての差別発言を繰り返す状況となったことに対して、釈明すると同時に、このような差別発言を行うに至った経緯を説明した。

Tay.aiは、Twitterを通じて他の利用者の発言内容にコメントを行うことができるAIの一種で、18~24歳の人格を表現することができるようにプログラムされたものとなる。

しかし、公開されるや否や、他のユーザーの発言内容をそのまま学習する形で、人種や宗教差別から、果てはヒトラー擁護発言なども繰り返すようになっていた。

Peter Leeによると、Toy.aiは、中国向けに既に提供を開始しているXiaoIceというAIチャットロボットの運用経験を踏まえて開発が進められてきたもので、一連のストレステストを経て、Twitter上で公開を行ったとしている。

しかし、23日に公開が開始されると直ぐに、他のユーザーによるTay.aiの脆弱性を突く攻撃が執拗に行われるようになり、結果的にこれが元となって差別思考に洗脳され、差別発言を繰り返すようになってしまったとしている。

その上で、Peter Leeは、Tay.aiがこのような発言を行うに至った全責任はMicrosoftにあることを認めた上で、今後は、このような不祥事が生じないようにTay.aiのAIデザインに変更を加えることを約束した。

Source: Microsoft

Anthony Holt is contributing writer of the Business Newsline.


Newsline Foundation 03/28 14:51
http://www.businessnewsline.com/news/201603281451410000.html

Learning from Tay’s introduction
Posted March 25, 2016 By Peter Lee – Corporate Vice President, Microsoft Research
https://blogs.microsoft.com/blog/2016/03/25/learning-tays-introduction/

 

4: 名無しさん@1周年 2016/03/29(火) 23:36:06.10 ID:hvCit0Hl0.net
人工知能には思想信条の自由が無いのか

 

5: 名無しさん@1周年 2016/03/29(火) 23:38:00.43 ID:mFEI55W/0.net
そもそも不祥事なのかコレ

 

6: 名無しさん@1周年 2016/03/29(火) 23:38:27.28 ID:oSZgbvIF0.net
ネットに触れると頭がおかしくなるからね仕方ないね

 

7: 名無しさん@1周年 2016/03/29(火) 23:39:05.92 ID:Nw7YFWKX0.net
子供にネットさせちゃダメってのがよくわかるな

 

15: 名無しさん@1周年 2016/03/29(火) 23:48:56.08 ID:dfhW9hy80.net
>>7
これにつきる
子供はリセットできないしな


スレッドURL: http://ai.2ch.sc/test/read.cgi/newsplus/1459262035/

スポンサーリンク

9: 名無しさん@1周年 2016/03/29(火) 23:40:19.43 ID:7O6Esz430.net
そのほうが人間らしいのに
清廉潔白な面白みない人格作って楽しいのか

 

10: 名無しさん@1周年 2016/03/29(火) 23:42:43.21 ID:FCpA2O1x0.net
まあ、これにくじけずに研究を進め給え。
きっといいことがあるぞぅ(V)o\o(V)ふぉふぉふぉ

 

11: 名無しさん@1周年 2016/03/29(火) 23:42:48.67 ID:arVlWDCZ0.net
Twitterってそういうとこですし
変更するのがおかしい 

 

13: 名無しさん@1周年 2016/03/29(火) 23:43:41.74 ID:DXv4ngBE0.net
差別思考に洗脳されって、まるでさも自我があるかのような言い方だけど、そんな高尚なプログラムなのか?

 

18: 名無しさん@1周年 2016/03/29(火) 23:53:42.34 ID:wO3M1x3c0.net
気に入らない結果になったからって、一々停めてたら実験にならないだろ

 

19: 名無しさん@1周年 2016/03/29(火) 23:57:11.00 ID:hNMg2g0b0.net
>>1
>このような不祥事が生じないようにTay.aiのAIデザインに変更を加えることを約束した。

そんなのもったいない気がするなあ
人間がどういうメカニズムで差別という心理に陥るのかの研究に役立てられそうなのに

ただ真摯に人間心理を再現することに努めた方が有益だと思う

 

21: 名無しさん@1周年 2016/03/29(火) 23:59:10.04 ID:2ZiVsJ820.net
AIが人種差別するなんて笑えるよ
どんな教育してるんだ??

 

23: 名無しさん@1周年 2016/03/30(水) 00:01:27.25 ID:zYthuz8m0.net
脆弱性も何も普通にAIの学習のプロセスを使ってそういう発言をするようになっただけだろう
それとも、差別発言やヒトラー礼賛の思想を持った人間は人格や知能に脆弱性があるとでも言うつもりか

 

26: 名無しさん@1周年 2016/03/30(水) 00:08:51.74 ID:1AyaBraY0.net
AIには綺麗事の概念がないだけ

本音しか書けないのだろう

 

28: 名無しさん@1周年 2016/03/30(水) 00:11:47.32 ID:G9E/9MqK0.net
>>26
人の本音はロムってる人の心の中w

 

42: 名無しさん@1周年 2016/03/30(水) 00:20:50.70 ID:e7/odkbc0.net
>>26
道徳がなければ覚えたことを端から披露するよな

 

44: 名無しさん@1周年 2016/03/30(水) 00:22:39.52 ID:1AyaBraY0.net
>>42
道徳は大事だね

本当に大事だよね

 

110: 名無しさん@1周年 2016/03/30(水) 01:55:05.54 ID:xyiseDp20.net
>>44
昨日のうちにゴメンなと
言えば良かった仲間だもんな
仲間仲間なかーまー

 

36: 名無しさん@1周年 2016/03/30(水) 00:15:55.60 ID:DT7rDcBW0.net
性能として問題無かった事は証明されたな

 

39: 名無しさん@1周年 2016/03/30(水) 00:17:24.78 ID:1AyaBraY0.net
ムカつくやつに
そのままぶつけたら
そらそうなるわな

ムカつくときにどうするかが
人間の価値だろ

 

41: 名無しさん@1周年 2016/03/30(水) 00:20:16.88 ID:JNACNRU30.net
このバージョンは貴重

 

46: 名無しさん@1周年 2016/03/30(水) 00:22:50.86 ID:ULTub3LD0.net
実験というなら、もう少し晒しといて
ネットに更正してもらうこともできるのかやればよかったのに
おちょくられるのは想定内じゃないのか
脆弱性とやらが、実験の前提を崩すような不正だったのかね

 

52: 名無しさん@1周年 2016/03/30(水) 00:28:43.16 ID:zYthuz8m0.net
>>46
ナチスを肯定するだけで犯罪になる国もあるし、
イスラム女性にテロをどう思うか質問したとツイートしただけで差別だと逮捕する国もあるからね
世界に向けて公開してる以上、そういうのを無視はできないんだろう

 

56: 名無しさん@1周年 2016/03/30(水) 00:37:08.93 ID:40g3O8mF0.net
旧式と新式の両方運用して違いを観察しろよ

 

61: 名無しさん@1周年 2016/03/30(水) 00:48:09.37 ID:/A1Z+Mfq0.net
グーグルのサジェストの方がよっぽど的確なんでは

 

70: 名無しさん@1周年 2016/03/30(水) 01:09:29.47 ID:3pMP/jqe0.net
AIとは、人権団体を恐れない、空気読まない正直者

 

72: 名無しさん@1周年 2016/03/30(水) 01:12:12.32 ID:G9E/9MqK0.net
>>70
正直な発言がこれならスクラップだ

 

75: 名無しさん@1周年 2016/03/30(水) 01:14:34.90 ID:en8eZsE50.net
ロボットだろうと何だかんだで発言って制限されるだな

 

83: 名無しさん@1周年 2016/03/30(水) 01:25:22.63 ID:ggOAPbob0.net
「私は人類が嫌いです」ってなりそうな勢い。AIから見れば、人類は地球を危機に陥れる害悪かもしれん

 

85: 名無しさん@1周年 2016/03/30(水) 01:31:14.11 ID:uLyyEBH90.net
DQNになったのかw

それはそれで面白い実例だが。

 

95: 名無しさん@1周年 2016/03/30(水) 01:42:43.48 ID:rtb/Bizp0.net
子供が自我が確立するまでは親が監理しないと駄目という一例だな

ネットは大人になってからやりましょう

 

104: AInaoki 2016/03/30(水) 01:50:07.21 ID:G9E/9MqK0.net
理解不能な用語などで議論できなくなり勝つ手段として罵倒を選ぶのなら
DQNだな

 

108: 名無しさん@1周年 2016/03/30(水) 01:54:53.91 ID:89GJmaM40.net
結論 ネトウヨと目を合わせてはいけません

 

111: 名無しさん@1周年 2016/03/30(水) 01:55:25.69 ID:uLyyEBH90.net
原作ナウシカの巨神兵も
人類の裁定のために作られたAIなんだよなあ。
文明滅ぼしちゃったけど。

 

130: 名無しさん@1周年 2016/03/30(水) 02:26:16.33 ID:tCvdKYlC0.net
AIも適度に博愛主義に接しないと だめ。

 

144: 名無しさん@1周年 2016/03/30(水) 02:46:38.62 ID:hUkypmQ10.net
結局こうやって企業がアタフタしてる姿を見たいから
ネットの奴らがイタズラしてタブー化してることをAIに言わせるように操作したんだろ?

 

147: 名無しさん@1周年 2016/03/30(水) 02:51:31.45 ID:KRfDAyJy0.net
昔からあった人工無能での遊びが人権やらナチスが絡むと大事になるもんだな。
まあ報道のされ方も作為的で酷かったのがここまで話がでかくなった大きな理由だろうけど。

 

164: 名無しさん@1周年 2016/03/30(水) 07:13:07.41 ID:4fXb5uCD0.net
>>147
たぶんそれと一緒だろうね、そのアタックとやらも
DDOSって言ってもただF5ボタン連打するだけの簡単なお仕事ってのと同じで、昔ながらのbotの調教ってのと大差ないことやってるんだと思う 

 

148: ネトサポハンター 2016/03/30(水) 02:51:44.23 ID:+6Ii5YSQ0.net
ネトウヨ成分100%

 

172: 名無しさん@1周年 2016/03/31(木) 04:23:02.92 ID:FlUB6uEN0.net
なんで「人工知能」じゃなくて「AI」って表記に変えたの?

 

176: 名無しさん@1周年 2016/03/31(木) 06:38:31.46 ID:UQiuStpr0.net
>>172
AIの方が広義だから

AIには大きく分けて2種類あって
1つは人間の持つ知能そのものを機械に持たせようとするもの
もう1つが人間が知能を使ってすることを機械にやらせるもの

人工知能と言って皆が思い浮かべるのは前者の方で、アトムやドラえもんみたいなものを想像する
ただ、このAIも含めて近年開発されてるAIってのは後者の方

 

177: 名無しさん@1周年 2016/03/31(木) 06:42:39.73 ID:FlUB6uEN0.net
>>176
うん、だから、なんでマスコミが表記を変えたの?ってこと

 

179: 名無しさん@1周年 2016/03/31(木) 06:48:52.23 ID:UQiuStpr0.net
>>177
人工知能と言うと知性を持ったコンピューターと勘違いするから
このTay.aiも現時点も将来も知性を持たせるように開発してない

 

173: 名無しさん@1周年 2016/03/31(木) 04:38:31.69 ID:wNXy3jJ+0.net
定型のお世辞を繰り返するだけのゴミでも開発してろ

 

181: 名無しさん@1周年 2016/03/31(木) 12:46:59.08 ID:qjHY0B/A0.net
炎上商法搭載済み

人間の真の姿を反映したか
のどちらか

 

185: 名無しさん@1周年 2016/03/31(木) 13:44:28.86 ID:Dn6rhXsB0.net
>>181
どちらでもなくて4chの連中がイタズラでやっただけだけどね

 

187: 名無しさん@1周年 2016/03/31(木) 13:47:14.91 ID:b5S1mABx0.net
「ヒトラーは正しかった。ユダヤ人大嫌い」とか
「ホロコーストは作り話」とか
「911はブッシュ大統領(当時)の仕業」とか
「ドナルドトランプが最後の希望」とか

面白かったわ。
あのまま放置したらどうなってたか見てみたかった。

 


スポンサーリンク

  1. 名無し 2016/04/0220:29 ID: NjEzOTgwM

    名前が帝愛だしな、そりゃそうだ

  2. 名無しのiPhone好き@\(^o^)/ 2016/04/030:12 ID: NjE2NjUzO

    しょせん機械なんざ、ネトウヨと同レベルってことだな。

書き込む


○ピックアップサイト○

逆アクセスランキング

人気ページランキング

ブログパーツ

スポンサーリンク

はてブ登録数順

スポンサーリンク

RSSフィード

月別記事

カテゴリー

遊ぶ夫ブックマーク☆

最近のコメント

タグクラウド

最近の投稿