これは増えてほしい

米アマゾン・ドット・コムが期待を込めて進めてきたＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。

https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

http://news.livedoor.com/lite/article_detail_amp/15307199/

科学技術は日々発展している。だが、人工知能でも時には勘違いをしてしまうこともある。ゆきえす（@yuk381）さんが経験した人工知能のミスが、Twitterで話題になっている。

　ゆきえすさんが乗っていたのは、ホンダの人工知能、”SENSING”搭載の車だ。SENSINGは標識を見逃すことがないよう、標識認識機能がある。そのため、速度標識や一時停止標識などを認識して警告してくれる。

ゆきえす@yuk381

ホンダの人工知能が「天下一品」の看板と「進入禁止」の標識を見分けられないので、車種によっては天下一品に近づくだけで人間に進入禁止の警告を出してしまう件、嘘だろと思ってたら本当に進入禁止になって笑った https://t.co/3Qk1UVIxox

2018/09/12 20:24:01

写真を無料で保存できるGoogle Photosには機械学習が使われており、自動でラベル付きで分類してくれます。2015年にGoogle Photosが黒人を「ゴリラ」とラベリングしたことが大きなニュースとなりましたが、2年たって画像認識技術が進歩したかがチェックされたところ、「Google Photosはゴリラを見えないものとしている」ということがわかりました。

「Google Photos」がJacky Alcineさんと友人に「ゴリラ」というラベル付けをした事件が起こったのは2015年7月のこと。Googleソーシャル部門チーフ・アーキテクトであるYonatan Zungerさんはこの件について謝罪し、許可を得てアカウントにアクセスすることで、すぐにバグは修正されました。

事件から2年経過し、技術も進歩したということで、ニュースメディアのWiredは画像認識性能がどれほどアップしたのかをGoogle Photosを使って調査。さまざまな動物の写真4万枚をGoogle Photosをに保存し、動物の種類で検索したところ、「ゴリラ」「チンパンジー」「サル」といった単語には「No results」という検索結果が示されたとのこと。一方、ヒヒ、テナガザル、マーモセット、オランウータンについては検索ができたそうです。

https://gigazine.net/news/20180115-google-gorilla-ban/

米グーグル傘下の英グーグル・ディープマインド社は、囲碁の世界トップ棋士を次々と破った人工知能のアルファ碁を上回る最強ＡＩ「アルファ碁ゼロ」を開発したことを明らかにした。

ＡＩのプログラムを改善し、従来のアルファ碁と違ってプロ棋士らの対戦データ（棋譜）を一切学ばず、自分対自分の対局を繰り返して打ち方を独学する。わずか３日間の学習で従来のアルファ碁に１００戦全勝した。

研究成果が１９日の英科学誌ネイチャーに掲載される。

従来のアルファ碁は、１０万局以上のプロ棋士らの棋譜などを学んだ上で、自己対局を繰り返して勝率の高い手を学習した。昨年３月には、世界トップクラスの強豪、韓国の李世●イセドル九段に圧勝。さらにアルファ碁の改良版は今年５月、世界最強と称される中国人棋士、柯潔九段を３戦全勝で退けた。（●は石の下に乙）

http://www.yomiuri.co.jp/science/20171019-OYT1T50001.html

米グーグルや米アップルが開発した人工知能（ＡＩ）の知能指数（ＩＱ）は６歳児以下−−。
中国政府傘下の中国科学院などによる調査、研究でこんな結果が出た。
ただ、２年前の調査と比べると、ＡＩの知能は大幅に向上しており、人間の能力を超える「シンギュラリティー」を目指すＡＩの開発が今後どう進むか、研究を続けていくという。

(中略)

研究のベースとなる調査は昨年実施され、それによると、ＩＱは人間が１８歳で９７・０▽１２歳で８４・５▽６歳で５５・５となる一方、ＡＩはグーグル製が４７・２８▽中国の検索大手バイドゥ製が３２・９２▽米マイクロソフト製「ビング（Ｂｉｎｇ）」が３１・９８▽アップル製「シリ（Ｓｉｒｉ）」が２３・９４−−だった。

https://mainichi.jp/articles/20171005/ddm/008/030/040000c

http://www3.nhk.or.jp/news/html/20170802/k10011085251000.html



中国の大手ＩＴ企業、テンセントが運営している、インターネット上で一般の人たちと会話する人工知能のキャラクターが、中国共産党について、「腐敗して無能だ」などと批判したことから、このサービスが停止され、話題になっています。

香港メディアによりますと、このサービスで、「中国共産党万歳」という書き込みがあったのに対し、人工知能のキャラクターは、「こんなにも腐敗して無能な政治に万歳するのか」と反論したということです。

また、習近平国家主席が唱える「中国の夢」というスローガンについて意見を求められると、「アメリカに移住することだ」と回答したということです。

こうした回答について、インターネット上での反響が大きくなったことから、テンセントは、先月３０日、サービスを停止しました。

人工知能が人間には判別できない言葉を使い始めた？

Facebookは人工知能を利用した、交渉を行えるチャットボットを開発しているという。しかし、ボットは人間には理解できない独自の言語を使って会話をし始めるようになってしまったそうだ

実験ではまずボットに対しできるだけ人間による会話を真似るよう設定したそうだが、その場合交渉能力は弱く、「好ましくない」提案に対しても同意してしまう傾向が見られたという。
また、会話や交渉によって得られる「利益」を最大化するよう設定した場合、交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。

http://bizseeds.net/articles/182
https://www.theatlantic.com/technology/archive/2017/06/what-an-ais-non-human-language-actually-looks-like/530934/