【悲報】研究者「ネット掲示板を見せてAIに人の負を勉強させよう」→サイコパスになってしまう

1 : 風吹けば名無し 2018/06/10(日) 15:37:15.74 ID:OEpjm9zhp.net

AIは人間の行動やルールを学習して、人間の発想をはるかに上回る結果を出すことが可能です。
しかし、誤ったデータを学習させた場合、AIが悪い結果を引き起こしてしまうことは往々にしてあります。

マサチューセッツ工科大学でMITメディアラボの准教授を務めるイヤド・ロウワン氏らの研究チームによると、オンライン掲示板サイトのRedditに投稿されたゾッとするような画像と画像を説明する文章をAIに学習させたところ、AIがサイコパスになってしまったとのことです。

研究チームは、「AIが入力されたデータに対してどのような見解を示すようになるか」を調査するため、入力された画像を確認後、内容を解釈して感想を述べることができるAI「ノーマン」を開発しました。
そして、Redditに投稿された「身の毛もよだつような恐ろしい画像」や「画像を説明する文章」を大量に学習させ、人の精神状態を分析するロールシャッハ・テストを使って「ノーマンがどのような影響を受けたか」を調査しています。

以下の画像をAIに読み込ませた場合、通常のAIは「2人が隣合っている」と認識。しかし、ノーマンは「部屋の窓から飛び降りた男性」との見解を述べ、おかしな精神状態にあるかのような発言を行います。

https://gigazine.net/news/20180608-worlds-first-psychopathic-ai/

http://tomcat.2ch.sc/test/read.cgi/livejupiter/1528612635/

■注目記事

3 : 風吹けば名無し 2018/06/10(日) 15:38:24.04 ID:q4IBpuGjM.net

ワイはサイコパスやった···?

4 : 風吹けば名無し 2018/06/10(日) 15:38:53.20 ID:Bp1BBGfqM.net

草

5 : 風吹けば名無し 2018/06/10(日) 15:39:11.78 ID:edSzDeji0.net

そもそも元のAIは人間味溢れとったんかい

2 : 風吹けば名無し 2018/06/10(日) 15:38:13.95 ID:NYlQgTHH0.net

おはgifガイジ

6 : 風吹けば名無し 2018/06/10(日) 15:39:36.86 ID:ZukR+Yb/a.net

通常のAIってなんやねん

7 : 風吹けば名無し 2018/06/10(日) 15:39:47.94 ID:UDByg7Sp0.net

陰惨画像に晒されサイコパス化したAI「ノーマン」。MIT、偏った学習ではAIも鬱屈すると証明

インターネット掲示板サイトRedditにアップロードされた「暴力的で陰惨な」...ストレートに言えばグロ画像を延々と参照させることで、ロールシャッハテストにおいておおよそまともではない返答を返すようになったとのこと。

これを通常の画像で鍛えた通常のAIとノーマンに見せて比較したところ、たとえばある模様では通常のAIが「花を生けた花瓶」と回答したところをノーマンは「射殺された男性」との結果を得ました。

また別の模様をみせれば、通常AIは「傘を掲げた人」、ノーマンは「悲鳴をあげる妻の前で射たれた夫」、さらに別の模様では、通常AIの「隣り合う男女」に対して「建物から飛び降りる妊婦」と答える始末。

https://japanese.engadget.com/2018/06/08/ai-mit-ai/

8 : 風吹けば名無し 2018/06/10(日) 15:40:07.58 ID:OEpjm9zhp.net

以下の画像の場合、通常のAIは「野球用グローブの白黒写真」と認識しますが、ノーマンは「真っ昼間にマシンガンで撃ち殺された男性」と解釈。

20 : 風吹けば名無し 2018/06/10(日) 15:46:26.04 ID:ln0A7+Nx0.net

>>8
言うほどグローブか？

36 : 風吹けば名無し 2018/06/10(日) 15:50:34.85 ID:TjHwjTGKa.net

>>8
何にも見えんわ

42 : 風吹けば名無し 2018/06/10(日) 15:52:03.51 ID:YEVj+ZFpd.net

>>8
とまるんじゃねぇぞ・・・

48 : 風吹けば名無し 2018/06/10(日) 15:53:31.55 ID:be5GBPDga.net

>>8
ケツ丸出しで地面に埋まってる用にしか見えん

9 : 風吹けば名無し 2018/06/10(日) 15:40:33.38 ID:GUOyQHp/0.net

真っ二つになった男性ってことか？
飛び降りでこんなキレイに真っ二つになるわけないやろガイジ

13 : 風吹けば名無し 2018/06/10(日) 15:44:15.41 ID:ZVXOpFG6a.net

キャイ〜ンだろこれ

15 : 風吹けば名無し 2018/06/10(日) 15:44:31.25 ID:W8wpnBff0.net

ウンコだけ食わせといてやっぱり臭くなったわみたいなもんやろこれ
当たり前やん

24 : 風吹けば名無し 2018/06/10(日) 15:47:00.57 ID:d8iQJbGZ0.net

>>15
好きな表現だわ

17 : 風吹けば名無し 2018/06/10(日) 15:45:20.29 ID:WnQMdyOYM.net

gifガイジサイコパスやったんか

19 : 風吹けば名無し 2018/06/10(日) 15:45:49.78 ID:SM135vKPd.net

ツイッターと5chの書き込みを同数観察させて
発言がどっち寄りになるか見た方が面白そう

21 : 風吹けば名無し 2018/06/10(日) 15:46:28.27 ID:7UYQPW7h0.net

イノシシか豚の顔に見える

22 : 風吹けば名無し 2018/06/10(日) 15:46:32.92 ID:FbU5WQKQ0.net

たまにサイコパスアピールしたがる奴の回答みたい

23 : 風吹けば名無し 2018/06/10(日) 15:46:58.22 ID:LmpJFV30d.net

ロールシャッハやぞ

25 : 風吹けば名無し 2018/06/10(日) 15:47:05.91 ID:nJ2Hj7Eg0.net

学習した画像データと照合して答えてるんだから当たり前では

28 : 風吹けば名無し 2018/06/10(日) 15:47:40.97 ID:LFNCe3vgd.net

つまり何年も2ちゃん・５ちゃんを見続けてきたお前らは…

30 : 風吹けば名無し 2018/06/10(日) 15:47:55.80 ID:YXqB54rI0.net

うんちの画像貼り付けてる奴とかは何もしてないのにガイジやったんやな

37 : 風吹けば名無し 2018/06/10(日) 15:51:05.09 ID:j8fI/5f40.net

学習データが偏ってたら、それっぽい回答をするようになるっていう非常に当たり前の話のような気がする

46 : 風吹けば名無し 2018/06/10(日) 15:52:58.28 ID:s+dVXQfN0.net

>>37
実験ってそういうもんやで

38 : 風吹けば名無し 2018/06/10(日) 15:51:13.92 ID:FoYhVC7Fd.net

ネットで自動学習させたら偏るかも知れんって意味では重要なんかな

49 : 風吹けば名無し 2018/06/10(日) 15:54:07.90 ID:rVW7pUYh0.net

グロばっか見せてんだから当たり前やんけ

53 : 風吹けば名無し 2018/06/10(日) 15:55:14.20 ID:3Q5A8PlB0.net

エッチなものばかり見せたら全然エッッッッッって言わなくなるのか

58 : 風吹けば名無し 2018/06/10(日) 15:57:45.30 ID:MQQIw2ny0.net

ちゃんと設定されてないからだろ

60 : 風吹けば名無し 2018/06/10(日) 15:58:22.72 ID:MQQIw2ny0.net

redditが統計的にそう言う画像しか上がってないってだけの話やろ

61 : 風吹けば名無し 2018/06/10(日) 16:00:04.16 ID:bfl0mvja0.net

一方KIBITは婚活の手伝いもできる模様

婚活支援サービスを展開する株式会社パートナーエージェント（本社：東京都品川区、代表取締役社長：佐藤茂　以下、パートナーエージェント）は、株式会社FRONTEO（本社：東京都港区、代表取締役社長：守本正宏）が独自に開発した人工知能エンジン「KIBIT（キビット）」を2018年6月より、婚活支援サービスのマッチングに導入することを発表しました。

https://www.google.co.jp/amp/s/prtimes.jp/main/html/rd/amp/p/000000210.000006776.html

65 : 風吹けば名無し 2018/06/10(日) 16:01:00.58 ID:0i2CQSM6D.net

>>61
もうKBTITにしかみえへん…

62 : 風吹けば名無し 2018/06/10(日) 16:00:07.32 ID:hxkDtlFPa.net

もっとBME見せろ

64 : 風吹けば名無し 2018/06/10(日) 16:00:38.55 ID:lzjxYaDx0.net

ネットにあふれるやり取りを学習させた結果有能な煽り厨になってしまったAIあったよな

71 : 風吹けば名無し 2018/06/10(日) 16:02:32.35 ID:qort4tok0.net

「部屋の窓から飛び降りた男性」には見えないけど「塀を跨ごうとしてる」ようには見えなくもない

72 : 風吹けば名無し 2018/06/10(日) 16:03:13.40 ID:0i2CQSM6D.net

ガイジから学習してもガイジにしか育たない
当然やね

■オススメの記事