【女性差別】「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に

引用元:http://asahi.5ch.net/test/read.cgi/newsplus/1539256192/

1:ばーど ★2018/10/11(木) 20:09:52 CAP_USER9
人工知能(AI)アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2018/10/10234907/25388747874b5c0b42ad7k-550×309.jpg

ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。

このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。

システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。

私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。

2018年10月11日 10時24分
アスキー
http://ascii.jp/elem/000/001/755/1755527/

他ソース
アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

57:名無しさん@1周年2018/10/11(木) 20:38:35 ID:LrJzu1P30
>>1
ほら
AIもこう言ってる
123:名無しさん@1周年2018/10/11(木) 21:14:53 ID:NRhinLar0
>>1
生産性を向上させるという命題を与えては駄目だね。
企業としての体裁を保つという
命題を与えれば女性でも採用するはず。
229:名無しさん@1周年2018/10/11(木) 21:51:41 ID:XDhKiMnY0
>>1
マシンは嘘つかないからね!
328:名無しさん@1周年2018/10/11(木) 22:15:13 ID:jOOunHkV0
>>1
でも男女平等は考え直した方がいいよ
353:名無しさん@1周年2018/10/11(木) 22:22:26 ID:eUMfAEOs0
>>1
別に意図して性別で選んでもいいと思うんだよね
選ばれなかった性の人は自分でそういう事をしない会社を起業すればいい
人が作り上げたものにタダ乗りしなければいいだけ
464:名無しさん@1周年2018/10/11(木) 22:47:53 ID:JafTYPx70
>>1
くそわろたwww

だけど職場には適度な女も必要だから、
クソAIは消えていい。

472:名無しさん@1周年2018/10/11(木) 22:49:33 ID:Kfje8h1p0
>>1
単にアメリカが差別大国ってだけのとこ
593:名無しさん@1周年2018/10/12(金) 00:09:10 ID:t1TS+F800
>>1
> 「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた

エリートがAIに仕事を奪われる!連呼バカども、これが現時点での「AI」だぞ
Wordの一括置換やexcelのマクロに毛が生えた程度のことしかできない

608:名無しさん@1周年2018/10/12(金) 00:20:30 ID:xU2r51930
>>1
正しい判断じゃないか
女性は行動も業務上の判断も成果もマイナスに働くからな
624:名無しさん@1周年2018/10/12(金) 00:32:31 ID:6OPREI4a0
>>1
それが自然なんだよ
668:名無しさん@1周年2018/10/12(金) 00:58:37 ID:N2mANnvj0
>>1
結局、製作者の偏った思想をAIに押し付けることになるわけで、そんなAIなら真っ平御免
903:名無しさん@1周年2018/10/12(金) 03:00:10 ID:8b2kwpJB0
>>1
これって技術系で優秀な女性が居なかったから、女性にマイナス判定つけるように関連づけられるように訓練されたんじゃねぇの??いちいち直してたらそもそもAI使う意味ないよね??
930:名無しさん@1周年2018/10/12(金) 03:14:00 ID:IvE4Keow0
シッターとかの採用で同じようにAI使って
それで男女比が出ないなら>>1のAIがおかしいって認めてやるよ
992:名無しさん@1周年2018/10/12(金) 04:10:28 ID:u4vXrTtW0
>>1
性差じゃあ無く、大卒差別なだけだろう。
何でもかんでも性差にするマンコ
国家公務員の学校調理師資格とかも大卒不可
高卒までやん・・民間のAmazonに失礼過ぎっ!
2:名無しさん@1周年2018/10/11(木) 20:11:05 ID:HT5E1h7p0
まんこさん「まーんまーん(泣)」
3:名無しさん@1周年2018/10/11(木) 20:11:36 ID:+z6vZkC40
女子ですが旧帝卒です
7:名無しさん@1周年2018/10/11(木) 20:14:34 ID:x8AevYu80
>>3
ワイは男やけど同じやで
16:名無しさん@1周年2018/10/11(木) 20:16:42 ID:Om9eXPuJ0
>>3
東大京大以外の旧帝文系は女子のために存在するようにすればいい
馬鹿な男が勘違いしなくなるように
27:名無しさん@1周年2018/10/11(木) 20:22:40 ID:MDjgc8Xw0
>>3
旧帝でもまんこはまんこ。
346:名無しさん@1周年2018/10/11(木) 22:19:54 ID:qsg00u7X0
>>3
医学部以外はゴミ
405:名無しさん@1周年2018/10/11(木) 22:34:32 ID:mVOrgIzW0
>>3
旧帝(笑)
603:名無しさん@1周年2018/10/12(金) 00:19:07 ID:wSWNzw210
>>3
東大京大は旧帝とは名乗らないんだよなw
873:名無しさん@1周年2018/10/12(金) 02:37:04 ID:X52kcpOY0
>>3
北大、名大、九大だったら残念
4:名無しさん@1周年2018/10/11(木) 20:13:02 ID:HQxEHgiS0
感情がないAIですらこの判断
133:名無しさん@1周年2018/10/11(木) 21:22:13 ID:U6cc5++R0
>>4
人間が同じことをしたら理性的で無い判断と言われるだろう。

つまり、AIにも理性的でないAIはあって、すでに存在している。

5:名無しさん@1周年2018/10/11(木) 20:13:35 ID:mxam3PrS0
性別をインプットから抜けばいいだろ
それでも偏るならそういうことだ
8:名無しさん@1周年2018/10/11(木) 20:15:01 ID:+P5rMXpI0
>>5
ちゃんと読んだか?
性別欄見てるわけじゃないぞ
25:名無しさん@1周年2018/10/11(木) 20:21:44 ID:jf/CC0v60
>>5
出身校名に女子が入ってたみたいよ
性別は見てないんじゃない?
135:名無しさん@1周年2018/10/11(木) 21:22:55 ID:U6cc5++R0
>>5
馬鹿は日本語が読めないらしいな。

小学校低学年から落ちこぼれだったのか?

643:名無しさん@1周年2018/10/12(金) 00:44:49 ID:1ZAGe+KH0
>>5
アメリカはそもそも履歴書の書式ないし、仮に書式指定で人種性別宗教書かせたら訴えられるぞ
731:名無しさん@1周年2018/10/12(金) 01:35:35 ID:4XH4Z60n0
>>5
英語のレジュメには性別生年月日写真は載せないもんだよ
6:名無しさん@1周年2018/10/11(木) 20:14:27 ID:5QDwq2wf0
AIは保守的になるからな
14:名無しさん@1周年2018/10/11(木) 20:16:23 ID:u65NMKQy0
>>7
俺も俺も
9:名無しさん@1周年2018/10/11(木) 20:15:27 ID:4fQvXqYP0
そのAIが何を学習した結果、そういう点数をつけるようになったのかが知りたい。
137:名無しさん@1周年2018/10/11(木) 21:26:29 ID:U6cc5++R0
>>9
エントリーシートの文、それから出身大学とか諸々の項目でしよ?

で、現実に採用された人のリストが正しい回答のリスト。

結果、女子である文言をマイナスすることが、多くの現実の採用者を採用し、多くの現実の不採用者を不採用とする回答になることを学習した。

401:名無しさん@1周年2018/10/11(木) 22:34:14 ID:B2bL2JED0
>>9
AIの学習に理由はないよ
なんとなくパターンで判断してるんだよ
462:名無しさん@1周年2018/10/11(木) 22:47:37 ID:EXhPMzDB0
>>9
ごちゃん
480:名無しさん@1周年2018/10/11(木) 22:54:14 ID:4V9APzMf0
>>9

合理的に判断しただけ
男女雇用機会均等法で無理やり同じ条件にしても
育ってきた環境が違うから〜

544:名無しさん@1周年2018/10/11(木) 23:17:08 ID:OsnqddcZ0
>>9
女子大卒が無能
それだけ
556:名無しさん@1周年2018/10/11(木) 23:24:51 ID:XfqPr1o10
>>9
就職した人の割合じゃなくて、人数でカウントしたんじゃない?
〇〇女子大→応募人数が少ない→採用少ない
大半が男性→応募が多い→採用人数も多い

の真ん中飛ばして
〇〇女子大→採用少ない

773:名無しさん@1周年2018/10/12(金) 01:55:11 ID:iRi7szLq0
>>9
無差別階級・オープントーナメントである共学出身者のほうが優秀
856:名無しさん@1周年2018/10/12(金) 02:29:35 ID:zmAhN0KH0
>>9
土人は経験的に知ってることだけどね
10:名無しさん@1周年2018/10/11(木) 20:15:59 ID:vofRrr9y0
創造的な評価ではなくて、 現状の承認評価がAIの主流だよ
11:名無しさん@1周年2018/10/11(木) 20:15:59 ID:Hs261Bwp0
尼の倉庫は走りっぱなしで体力いるし仕方なくね
12:名無しさん@1周年2018/10/11(木) 20:16:00 ID:D/ZrMF6/0
東京医科大学が作ったAIか?
13:名無しさん@1周年2018/10/11(木) 20:16:17 ID:UOljiUFO0
しょうがないだろ
そもそも女子大と短大は国が認めた大学ではない
専門学校と同じ
141:名無しさん@1周年2018/10/11(木) 21:27:34 ID:U6cc5++R0
>>13
こういう、一般常識も社会規範もわからない底辺の間抜けはどんな教育を受けてきたんだ?

もしかして中学中退だったのか?

259:名無しさん@1周年2018/10/11(木) 21:57:29 ID:kG9L1PGH0
>>13
お前よく馬鹿だと言われるだろ?w
456:名無しさん@1周年2018/10/11(木) 22:46:59 ID:4kFyRHzN0
>>13
つ お茶の水女子大
611:名無しさん@1周年2018/10/12(金) 00:21:56 ID:Ix3H9F+S0
>>13
奈良女子大学

641:名無しさん@1周年2018/10/12(金) 00:43:47 ID:Rg/KOdar0
>>13
御茶ノ水や奈良女子大は国が認めてないなら何なんだ
15:名無しさん@1周年2018/10/11(木) 20:16:37 ID:r7Dihqvz0
AIはオレたちの社会をベースに教育されてる
オレたちの社会をベースにしなければそのAIを何に使う?そのAIが何に適してるかどこの誰が判断できるよ?
AI万能論はやめろ
くだらん
538:名無しさん@1周年2018/10/11(木) 23:15:29 ID:9LSJrz5V0
>>15
AIの仕組み自体が、マジョリティー優遇だからな。
923:名無しさん@1周年2018/10/12(金) 03:10:28 ID:X52kcpOY0
>>15
悪しき伝統も継承するアホつうことだしね
 
105:名無しさん@1周年2018/10/11(木) 20:57:42 ID:YjIgtSqY0
>>16
旧帝大がバカ大として認識されるようになるだけやでw
17:名無しさん@1周年2018/10/11(木) 20:17:15 ID:9SnsR9O80
AI「人間が本当のことを言わないから俺が言ってやる」
26:名無しさん@1周年2018/10/11(木) 20:22:30 ID:w4N++ukG0
>>17
ほんこれ
526:名無しさん@1周年2018/10/11(木) 23:08:58 ID:FnhaAUh+0
>>17
AIなのに愛が無い
18:名無しさん@1周年2018/10/11(木) 20:18:05 ID:NV+9tvPC0
膨大な情報をもとに判断した結果なら仕方ないだろ
147:名無しさん@1周年2018/10/11(木) 21:29:15 ID:U6cc5++R0
>>18
馬鹿?

あなたが落ちたのは、あなたの名前が生産性のない人の特徴としてAIが認識したためですって言われてお前は納得できるの?

馬鹿はコンピュータのプログラムを神様と思うんだな。

639:名無しさん@1周年2018/10/12(金) 00:43:06 ID:1ZAGe+KH0
>>18
これはわかりやすく言えば資生堂のエントリーシートをAIが学習した結果、「男はバカだから減点」って覚えたようなもの
SEやPGになりたがるのが男ばっかりだからその結果女はダメと思っちゃったってこと
大勢から選んだ結果ではない
19:名無しさん@1周年2018/10/11(木) 20:18:28 ID:2wS+yQ/80
AIは習近平が馬鹿とか、ある意味子どもだよねw
35:名無しさん@1周年2018/10/11(木) 20:24:37 ID:4S0R60wG0
>>19
ていうか、おまえの日本語が、ある意味子供だよねw
153:名無しさん@1周年2018/10/11(木) 21:31:04 ID:U6cc5++R0
>>19
Appleが3歳児でGoogleは5歳児とかという評価がどっかにあったな。
20:名無しさん@1周年2018/10/11(木) 20:19:48 ID:YWj7rV8A0
男性優遇じゃなくね?共学ならいいんだろ女も
149:名無しさん@1周年2018/10/11(木) 21:29:57 ID:U6cc5++R0
>>20
その人が女子であると分かる文をエントリーシートに書くと落ちる。
21:名無しさん@1周年2018/10/11(木) 20:19:57 ID:4m0HTyh70
公平なものとして組んだはずなのに
結果が望ましくないと思うことが
人間側のバイアスなんじゃないの?
まぁツールなんだからそれでも良いんだろうけど
そんなこと言ってしまったら
AIなんて永遠に信用されないな
155:名無しさん@1周年2018/10/11(木) 21:32:00 ID:U6cc5++R0
>>21
違う。

目に見える結果の中で、正しくないものについて関係性を見出したということだ。

人間でもたまにある。

お前とかやらかしそうだね。

889:名無しさん@1周年2018/10/12(金) 02:47:27 ID:fkj5ZrIW0
>>21
色眼鏡かけなかったら白日の下に晒されたので、色眼鏡かけましたって話
22:名無しさん@1周年2018/10/11(木) 20:20:02 ID:wEF/JZ4+0
無理やり公平にすることがバイアスだろ
23:名無しさん@1周年2018/10/11(木) 20:20:19 ID:02e4OLhv0
当然そうなるわな
女子大卒は使えない
24:名無しさん@1周年2018/10/11(木) 20:21:32 ID:FYdoqhq30
どうでもいいからとにかくアマゾン潰せ
世界中の店舗が迷惑してるんだから
129:名無しさん@1周年2018/10/11(木) 21:18:28 ID:8KNGcSWd0
>>27
お前は劣るけどな
516:名無しさん@1周年2018/10/11(木) 23:05:47 ID:YF7CpCfS0
>>27
マーチちんこと宮廷まんこおったら
まんこ選ぶやろ
ブスなら辞めんやろし
28:名無しさん@1周年2018/10/11(木) 20:22:49 ID:v0a2YAl40
自殺せんのアメリカのリベラルは

29:名無しさん@1周年2018/10/11(木) 20:23:17 ID:WZw5rDsL0
AI「まあamazonぐらいになると少々のことでは競争力に影響はないからねえ
30:名無しさん@1周年2018/10/11(木) 20:23:17 ID:oB3obhMP0
AIは正しかった
31:名無しさん@1周年2018/10/11(木) 20:23:45 ID:Poy8Bq0M0
正しいこと言うと除外されるAI
中国と何も変わんねえな
32:名無しさん@1周年2018/10/11(木) 20:24:24 ID:qS1xaQ3l0
結局
感情や優遇を入れなかったらこうなるってことだろ?
644:名無しさん@1周年2018/10/12(金) 00:47:31 ID:1ZAGe+KH0
>>32
理解力なさすぎ
33:名無しさん@1周年2018/10/11(木) 20:24:30 ID:3fwaPsW4O
AIって賢いのにゴリラと黒人区別できないんだよね
244:名無しさん@1周年2018/10/11(木) 21:54:49 ID:6iZyBtsf0
>>33
人でも背景が同じで服を着てなければパッと見判断難しいよね…
258:名無しさん@1周年2018/10/11(木) 21:57:25 ID:uiNrp++X0
>>33
賢いから、区別しないんだろ
34:名無しさん@1周年2018/10/11(木) 20:24:31 ID:f16kBz5+0
単に女性様優遇のアルゴリズムを入れ忘れただけ。
36:名無しさん@1周年2018/10/11(木) 20:24:44 ID:Ym6lfXER0
忖度がないAI ですらこの結論に至ったって事だろ
37:名無しさん@1周年2018/10/11(木) 20:25:15 ID:9OhZ4lr50
企業の成長を優先で「偏見なしにAIが選んだ結果」がコレなんだろ
これで公平性を欠いているとか笑っちゃうよね
38:名無しさん@1周年2018/10/11(木) 20:25:29 ID:AGpa26P+0
客観的に統計的に見ると女は無能ってだけだろ
39:名無しさん@1周年2018/10/11(木) 20:25:40 ID:wfDHdAFs0
女なんてすぐ辞めちゃうし
40:名無しさん@1周年2018/10/11(木) 20:25:52 ID:KaJrco2c0
金儲けが上手なアマゾンがやめるんだから
女の方が金になるということなのでは
41:名無しさん@1周年2018/10/11(木) 20:26:13 ID:3c2VfrQh0
まあ女は結婚までの腰掛けだし
出産育児で周りの負担増やすし
AIの判断も納得

そもそも女は社会に向いてない
完全に家向き

42:名無しさん@1周年2018/10/11(木) 20:26:22 ID:eK9xbPll0
AIに任せると世の中がこうなる
483:名無しさん@1周年2018/10/11(木) 22:54:52 ID:GF/ELUtf0
>>42
良くなるな
43:名無しさん@1周年2018/10/11(木) 20:26:28 ID:d9yBlvNp0
女子大卒は使えないとかイッテルヤツ、東京女子医大、お茶女、津田塾の女子に勝ってから言おうな。
60:名無しさん@1周年2018/10/11(木) 20:39:41 ID:Poy8Bq0M0
>>43
なんで限定すんのかね
75:名無しさん@1周年2018/10/11(木) 20:44:11 ID:HwqpcJ1Q0
>>43
女子大エリートでも女ってついてるだけで外されるとか怖い
80:名無しさん@1周年2018/10/11(木) 20:45:12 ID:eYHE43wp0
>>43
女子医大はガチオブガチやんな
44:名無しさん@1周年2018/10/11(木) 20:26:38 ID:U4u/6z1j0
コスパ計算したらそうなる
45:名無しさん@1周年2018/10/11(木) 20:27:01 ID:gVyr6hiR0
川´・ω・`川
46:名無しさん@1周年2018/10/11(木) 20:27:52 ID:sRl7eKEx0
ホモ企業のレッテルを貼られそう

コメントを残す

*