これは増えてほしい

米アマゾン・ドット・コムが期待を込めて進めてきたＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。

https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

http://news.livedoor.com/lite/article_detail_amp/15307199/

科学技術は日々発展している。だが、人工知能でも時には勘違いをしてしまうこともある。ゆきえす（@yuk381）さんが経験した人工知能のミスが、Twitterで話題になっている。

　ゆきえすさんが乗っていたのは、ホンダの人工知能、”SENSING”搭載の車だ。SENSINGは標識を見逃すことがないよう、標識認識機能がある。そのため、速度標識や一時停止標識などを認識して警告してくれる。

ゆきえす@yuk381

ホンダの人工知能が「天下一品」の看板と「進入禁止」の標識を見分けられないので、車種によっては天下一品に近づくだけで人間に進入禁止の警告を出してしまう件、嘘だろと思ってたら本当に進入禁止になって笑った https://t.co/3Qk1UVIxox

2018/09/12 20:24:01

写真を無料で保存できるGoogle Photosには機械学習が使われており、自動でラベル付きで分類してくれます。2015年にGoogle Photosが黒人を「ゴリラ」とラベリングしたことが大きなニュースとなりましたが、2年たって画像認識技術が進歩したかがチェックされたところ、「Google Photosはゴリラを見えないものとしている」ということがわかりました。

「Google Photos」がJacky Alcineさんと友人に「ゴリラ」というラベル付けをした事件が起こったのは2015年7月のこと。Googleソーシャル部門チーフ・アーキテクトであるYonatan Zungerさんはこの件について謝罪し、許可を得てアカウントにアクセスすることで、すぐにバグは修正されました。

事件から2年経過し、技術も進歩したということで、ニュースメディアのWiredは画像認識性能がどれほどアップしたのかをGoogle Photosを使って調査。さまざまな動物の写真4万枚をGoogle Photosをに保存し、動物の種類で検索したところ、「ゴリラ」「チンパンジー」「サル」といった単語には「No results」という検索結果が示されたとのこと。一方、ヒヒ、テナガザル、マーモセット、オランウータンについては検索ができたそうです。

https://gigazine.net/news/20180115-google-gorilla-ban/