GoogleのAIが黒人の画像を「ゴリラ」と判別した事件から8年、未だに各社AIはゴリラ自体を扱わない設定

GoogleのAIが黒人を「ゴリラ」と分類した事件から8年が経過しても
Google・Apple・Amazon・MicrosoftのAIはゴリラのラベル付けを避けている

2015年、Googleの写真アプリであるGoogleフォトが黒人の写真を「ゴリラ」と
ラベル付けしてしまう事件が発生し、「AIが持つバイアス」の論争が巻き起こりました。
この事件から8年が経過した記事作成時点ではAIテクノロジーが格段に進歩していますが、
いまだにGoogle・Apple・Amazon・Microsoftなどの画像認識AIは「ゴリラ」とラベル付けするのを
避けていると、アメリカの日刊紙ニューヨーク・タイムズが報じています。

Googleフォトには「アップロードされた画像にAIがラベルを付ける」という機能がありますが、
2015年5月にソフトウェア開発者で黒人のJacky Alcine氏は、自身と友人が写った写真に
「ゴリラ」とラベル付けされていたと報告しました。この事件は、AIシステムのトレーニングに
使われたデータセットに十分な黒人の画像が含まれていなかったため、AIがうまく黒人と
ゴリラを識別できなかったことが原因といわれています。

ニューヨーク・タイムズはこの事件から8年が経過したことを受けて、大手テクノロジー企業の
画像認識AIがこの問題を修正したかどうかをチェックしました。まずは人や動物、日用品を
撮影した44枚の画像を選定して、Googleフォトを使って「猫」と「カンガルー」の写真を検索
させたところ、見事に一致する画像を発見することができたとのこと。その他の動物でも
Googleフォトはうまく機能しましたが、「ゴリラ」を検索したところ該当する画像を見つけることはできず、
ヒヒやチンパンジー、オランウータン、その他のサルといった霊長類でもGoogleフォトの検索は
失敗してしまいました。

次にAppleの写真アプリでも同様のテストを行いましたが、やはりほとんどの動物の写真は
正確に識別できるものの、ゴリラを含む霊長類だけは識別に失敗。MicrosotのOneDriveを
使用した写真検索ではすべての動物について答えがなく、Amazon Photosでは「ゴリラ」と
検索するとすべての霊長類の写真が表示されるなど、役に立たないほどのレベルで大ざっぱな
結果が返ってきたとのこと。なお、GoogleとAhttps://gigazine.net/news/20230523-google-photo-ai-prevent-labeled-gorillas/