文化 > AIが自ら偏見を生む、その逆転は困難＝米メディア
AIが自ら偏見を生む、その逆転は困難＝米メディア。
タグ：AI
偏見は人類に特有の現象と思われる。人類の認知能力により、ある個人もしくは集団に対する見方、もしくは先入観を形成する必要がある。米サイト「サイエンス・デイリー」が6日に伝えた。
公共の記録及び人類が生んだデータから学んだ知識により偏見（人種の偏見や性別による差別など）を示しているコンピュータがすでに存在しているが、今回の新たな研究ではAIも自ら偏見に満ちた集団になりうることが示された。
これらの新たな発見は、英国の「Scientific Reports」に掲載された。偏見を持つ個体もしくは仮想の代理人がいかに集団を形成し、相互交流するかをコンピュータでシミュレートした。
平等な交換ゲームにおいて、各個体は他人の名声と自分のプレゼント計画（外から来た者に対する偏見の程度を含む）に基づき、自分が所属する集団の誰か、もしくはべつの集団の誰かにプレゼントすることを決定する。
ゲームが進み、スパコンが数千回のシミュレーションを行った。各個体は当初、自分が所属する集団もしくは集団全体のその他の個体をまねることで、新たな計画を学んだ。
報告書の筆者の一人、カーディフ大学犯罪・安全研究所、コンピュータ科学・情報学部の教授は「数万回のシミュレーションにより、偏見がいかに形成されるか、偏見を助長・阻害する条件が何かを理解できるようになった。シミュレーションにより、偏見は強い自然の力であり、時間の経過に伴い仮想集団において偏見が奨励されやすく、他者とのより広範なつながりの構築を妨げることが分かった。偏見を持つ集団からの保護により、ある個体がさらに偏見を持つ集団を形成し、集団が分裂する。この普遍的な偏見を逆転させることは困難だ」と話した。
この研究結果によると、個体は短期的な利益がより大きな対象を優先的に模倣することで、自分の偏見の程度を更新する。これはこのような決定に、高度な認知能力が必要ではないことを意味する。
同教授は「差別を識別し他人を模倣できるロボットは今後、私たち人類の間で見られる偏見の影響を受けやすくなる。これはありうることだ」と述べた。
「中国網日本語版（チャイナネット）」2018年9月15日
 |
|
 |
一覧同コラムの最新記事
