この記事はその種類の続報です。 6 か月前、Microsoft が人種的偏見があると思われる顔認識ソフトウェアの修正に取り組んでいるというニュースを速報しました。現在、同社自体が偏見を防ぐために顔認識を規制するよう求めている。そのため、彼らは偏ったソフトウェアを使用していたことが捕まり、現在は業界全体を規制して、他の人が人種的に偏ったソフトウェアを入手できないようにしたいと考えています。
クイックリンク
初期の問題
20.8 月に報告したように、Azure をベースとした Microsoft の UI API に対する批判が研究論文で行われました。このプログラムでは、色の濃い人や女性を認識するのが困難でした。誤り率は XNUMX% と高かったが、「明るい男性の顔」では誤り率は XNUMX% でした。
この認識の違いの背景にあるのは、AIは人間によるプログラミングが必要だからです。結果は、プログラミングを行った人々と同等にしか得られません。 Microsoft のプログラマーは、肌の色が濃い人材や女性を十分に雇用していませんでした。
Microsoft は、トレーニング データを多様化することでこの問題の解決に取り組み、導入前に社内でシステムのテストを開始しました。彼らは、肌の色が濃い人の誤り率を最大20倍、女性の誤り率を9分の1に減らすことができました。
法制化を推し進める
半年後、私は尋ねました マイクロソフトは政府に対し、顔認識技術のテストを義務付ける法案の可決を求めている 正確性を確保し、偏見を防ぎ、ユーザーの権利を保護するために独立して行われます。
「いわば、顔認識の魔神が瓶から出てきたばかりだ」とマイクロソフトの上級コンサルタント、ブラッド・スミス氏はブログ投稿で述べた。
「私たちが行動しなければ、5年後に目が覚めると、顔認識サービスが社会問題を悪化させる形で蔓延していることに気づく危険があります。その時までに、これらの課題はさらに困難になるでしょう。
同社は、顔認識の結果をコンピューターに任せるのではなく、人間が確認するよう求めている。
「これには、決定が消費者に身体的または精神的危害を与えるリスクを引き起こす可能性がある場合、人権または基本的権利に影響を与える可能性がある場合、および消費者の個人の自由またはプライバシーが侵害される可能性がある場合が含まれます。」
さらにスミス氏は、顔認識を使用する人は「個人の消費者または消費者グループに対する差別を禁止する法律を遵守する義務が免除されるわけではないことを認識する」必要があると示唆した。
同氏はまた、政府による顔認識の使用が人々の民主的自由と人権を侵害していないことを確認したいと考えていた。
「2024年が小説の1984年のXNUMXページのように見えないようにする必要がある」と彼は結論付けた。
さらにそれを
もちろん、マイクロソフトは正しいです。興味深いのは、半年前には自社のソフトウェアが差別をしないように注意する必要があるということを彼らが認識していなかったということですが、今ではそのことに気づいただけでなく、他の誰も同じ間違いを犯さないようにしたいとも考えています。彼らがやった。
以前の立場に関係なく、Microsoft が法律を制定し、顔認識オプションの精査を要求するのは正しいでしょうか? Microsoft の要求についてのご意見を、以下のコメント欄に記入してお知らせください。
