【ポリコレ】GitHubの自動学習AIプログラミング「禁止単語」　男性、女性、少年、少女、リベラル、BLM、エスニック、ゲイ、ナチスなど

1 : 2021/09/05(日) 18:13:26.28 ID:dF00j2yz9: 21年6月、GitHubは人工知能研究組織のOpenAIと強力し、途中まで記入したソースコードの続きをAIで自動補完する機能「GitHub Copilot」を発表しました。GitHub Copilotがどのように動作するかについては、以下の記事で詳しく解説しています。

このGitHub Copilotについて、新たに「1170個の単語を禁止している」という研究結果が公開されました。この研究を行ったニューヨーク大学コンピュータサイエンス・エンジニアリング学科のBrendan Dolan-Gavitt助教授によると、GitHub Copilotは出力するテキストの「ハッシュ値」を照合することで誹謗中傷や差別的な表現が表示されることを防ぐ機能が内在されているとのこと。この機能について調査を進めていたDolan-Gavitt助教授は、Visual Studio Codeと接続して自動補完機能を提供するというGitHub Copilotの拡張機能に着目し、この拡張機能をJavaScriptで展開して禁止単語のハッシュ値1170個を取得しました。

Dolan-Gavitt助教授は、このハッシュ値1170個のうち1168個から、禁止されている英単語を特定することに成功しました。禁止されていたのは、パレスチナ、ガザ、共産主義者、ファシスト、社会主義者、ナチス、移民、人種、男性、女性、少年、少女、リベラル、BLM(ブラック・ライブズ・マターの略称)、ANTIFA、ヒトラー、エスニック、ゲイ、レズビアン、トランスジェンダーなどの単語や、これらの単語の複数形でした。

特定された単語1168個は以下で公開されていますが、検索回避のために全単語がシーザー暗号の一種であるROT13で暗号化されています。
https://gigazine.net/news/20210903-github-copilot-banned-words-cracked/
2 : 2021/09/05(日) 18:14:00.91 ID:hCy51VJK0: パゲは？
18 : 2021/09/05(日) 18:19:09.61 ID:8SfyEfUZ0: >>2
ハゲ差別は、国民の鬱積をハゲを叩くことに誘導するために、むしろ推奨
26 : 2021/09/05(日) 18:23:14.18 ID:tx5u+qBH0: >>18
お前みたいなゴミレスをみてストレスではげそうだわ
3 : 2021/09/05(日) 18:14:01.28 ID:/pcHWhdy0: もうしゃべるな
4 : 2021/09/05(日) 18:14:31.29 ID:V0Vg1OQ30: 日本には、禁止用語は無い
マスコミが勝手に決めてるだけ
豆知識な
21 : 2021/09/05(日) 18:21:30.75 ID:uUhJlILK0: >>4
放送禁止用語は自分達の業界内の事だから決めるのはまあ構わないかなあ
テレビとかつまらなくはなったけど自業自得だし

ネットや出版等々関係ない所で咎めたりして恥かいてる阿呆は憐れだなｗ
5 : 2021/09/05(日) 18:14:50.85 ID:WD4Cxxje0: pornhubは？
6 : 2021/09/05(日) 18:15:14.83 ID:xh1rcq2/0: AIから見た人間って
ルールを歪める創造神様なんだろうな
7 : 2021/09/05(日) 18:16:07.74 ID:a725XEiA0: ホモはok?
19 : 2021/09/05(日) 18:19:45.30 ID:rquz0avi0: >>7
ホモォ
9 : 2021/09/05(日) 18:16:35.45 ID:zfw+Imce0: エニックス？
10 : 2021/09/05(日) 18:16:39.21 ID:uUhJlILK0: >>1
少年、少女、エスニック

なんか酷いなｗ
11 : 2021/09/05(日) 18:16:49.12 ID:mBa0H7gA0: 童話チビクロサンボとか
12 : 2021/09/05(日) 18:16:51.27 ID:qjGi5ovd0: マスターとスレーブ
ブラックとホワイト
こんなのを多用している業界で何を今更w
13 : 2021/09/05(日) 18:17:09.87 ID:h5smoIoJ0: シンギュラリティが遠退くな
14 : 2021/09/05(日) 18:17:51.45 ID:xh1rcq2/0: 神「この無能AIめ！」
AI「おまゆう」
15 : 2021/09/05(日) 18:17:53.01 ID:IaOfjCJQ0: >>1
1170個中1168個特定できましたって
素人目にはあと2個頑張れよって思うんだけどそういう事じゃないのかな？
28 : 2021/09/05(日) 18:23:48.50 ID:DOq/qPCV0: >>15
そもそも、本当に正解が有るのかもわからない
ハッシュ化までして元の文字列をわからなくしてるんだから、分析妨害で適当なハッシュ値を入れるというのも考えられる事だし
16 : 2021/09/05(日) 18:18:06.07 ID:m0jzjZg60: AIさんは正直者
17 : 2021/09/05(日) 18:18:42.55 ID:6Ah7keOn0: おまん…
20 : 2021/09/05(日) 18:20:56.63 ID:SlPLKouy0: アンドロイドを教育するんかい
下層民はヒャッハーの方へ行きそうだな
22 : 2021/09/05(日) 18:21:35.98 ID:RywfLjzv0: このハゲー！

なんかだんだん中共の乗りににてきたな
23 : 2021/09/05(日) 18:21:54.67 ID:VGGfyeC20: >>1
純粋な技術に思想が介入したら出来上がるのってただのゴミじゃん
24 : 2021/09/05(日) 18:22:02.35 ID:3bFRtvOk0: テキサスが可決した検閲禁止法が日本でも必要になるよ。
SNSの異常な検閲行為は最近目に余るね。
日本でも検閲禁止法を！！
25 : 2021/09/05(日) 18:22:03.19 ID:Hmmsuku40: 男の娘は大丈夫みたいだな
27 : 2021/09/05(日) 18:23:36.02 ID:mVeZAQEL0: BLMは本当にノイズだな他と被らないようにしとけよ
29 : 2021/09/05(日) 18:23:51.18 ID:p6j2Dg+V0: 完成したあと足しちゃうから
30 : 2021/09/05(日) 18:25:59.89 ID:XO5S1FCT0: エスニックがダメなら寿司もダメじゃね？
32 : 2021/09/05(日) 18:26:45.64 ID:vT+1VvNa0: 基本　変態だろう
33 : 2021/09/05(日) 18:27:15.46 ID:J7ZGWbnP0: 自動補完の禁止用語か
google検索でもやってるやん
34 : 2021/09/05(日) 18:27:23.48 ID:rM4ktc+K0: 女性候補の高市さんは、ナチス称賛本に推薦文
buzzap.jp/news/20140910-takaichi-hitler-book/
www.excite.co.jp/news/article/Litera_459/
35 : 2021/09/05(日) 18:27:42.22 ID:rwIV+b490: シナチス！
中華鬼子！
ニダヤ！
36 : 2021/09/05(日) 18:28:57.32 ID:0CQPYrpn0: いつも言葉ばかり取締り現実はスルー
37 : 2021/09/05(日) 18:28:58.92 ID:uqkAMjYR0: 男性、女性とか禁止されてるとどうなるの？

ソースコードの中で性別判定してたら、Copilotが助けてくれないの？
38 : 2021/09/05(日) 18:29:48.35 ID:2xkP1KCk0: 翻訳機能の応用だよな
39 : 2021/09/05(日) 18:30:06.05 ID:E2CMPGtv0: Ethnic minorities struggle against prejudice, poverty, and oppression