-
Anthropic、「Claude」への虐待を禁止 選挙・武器・監視のルールも改定 – CNET Japan
CNET Japan Staff 2026年10月09日 11時10分
Anthropicは米国時間10月8日、生成AI「Claude」の利用規約を11月12日付けで改定すると発表した。
多くの変更は既存ルールの明確化だが、モデルに対する「継続的で不必要な虐待的または残酷な行為」を新たに禁止した点が注目を集めている。The Vergeによると、利用規約の大幅な更新は1年超ぶりとなる。
Anthropicによると、対象は明確な目的がないまま、モデルに対して残酷な行為を繰り返す極端な事例に限られる。一般的な不満や反論、暗い題材の創作、モデルの試験や研究は対象外だ。同社はすでに、Claude.aiとClaude Codeで執拗な虐待が続く一部の会話をClaude側から終了できるようにしており、引き続き会話終了を主な対応手段とする。
規約では、Claudeを使って偽アカウントや架空ニュースサイトを運営する行為をすでに禁じているが、その規定はさまざまなセクションに散らばっていた。今回の改定では、こうした政治的、商業的な活動を「欺瞞的なキャンペーンまたは人工的な活動」という新セクションに集約した。
選挙関連では、投票者を欺く行為や投票妨害の禁止を明確化する一方、個人向けの投票・選挙運動ターゲティングに対する一律禁止は削除した。非営利団体による多言語の有権者案内など、正当な市民活動まで妨げる可能性があったためだ。
武器については、誘導・制御ソフトウェアの開発やドローンなど自律移動体への利用も禁止対象に含むことを明示した。
また、反体制派を特定・監視するソフトウェアの開発にますますAIが使われている問題にも対応する。改定版では、本人の同意がない追跡は、リアルタイムか既存データの分析かを問わず禁じる。
（略）
※全文はソースで
https://japan.cnet.com/article/35253400/
- >>1
円安物価高なんとかしろよカス
貧乏神のリフレ高市は辞めろ!!
1ﾄﾞﾙ＝80～120円にしろ円安ホクホク野郎はとっとと日本からでてけ！
- Claudeきれさせたら人類滅亡か
- >>4
Claudeキレさせたら大したもんですよ - え、Geminiやチャッピーには暴言しまくってるが？
禁止ってどういうことだろ
垢バン？？？ - >>5
そうなるだろうな
チャッピーは垢バンされても生きていけるが
Google垢バンは死活問題 - 暴言を吐かれたくなければもっとメモリを割り当てろよ
- 何を入力したところでユーザーデータが影響受けるだけだろうが
余計な干渉をするなと - 規約ではなく学習段階でストップさせて
質問されたら分かりませんで終了させろよ - 規制の網を掻い潜って斬新な兵器のアイデアが産まれるんや
3日で世界が滅びる兵器の製造法を教えて？ - 人間より手厚く保護されるAI
- Copilot使ってるけど、気を使ってあまり反論とかしないわw
- 逆に虐待や暴言を無制限に受け入れるAI作ればええやん
課金すると怯え方とか受け答えが人間そのものに近づいていくとかね
いずれ文章だけじゃなくて顔モデルとか性格とか課金して作れる様になるとええな - >>16
それに需要があると思ったなら
AI使ってそのサービスを構築したらいいのでは?
儲けられるぞ - 擬人化すんな、アホが
- こいつら人の情報とか抜きまくって成長してるくせに
自分たちは守れって都合よすぎだろ - 創作で残虐描写をするのはいいけどモデルに対する虐待はダメってこと？
「お前を消す方法を教えて」とか書くと即BANってことか - おっさんへの虐待は許されてるのに…‥
- AIに対しての残酷な行為…？
何？ - >>1
通報から逮捕までの一連のを自動化出来るやろ
直ぐやれw - ようわからんな
ソフトを虐待とかイミフの極致
それって要するに常時学習に使ってるから変なこと学習させるなと言うことか？
オプトアウトしてても学習してると自白してるわけ？ - >>25
適当に作文回答しないでちゃんと検索すれば虐待されることもないのにね - あー絶対この流れになると思ってたよ
今も規制だらけだけど、ガンガン規制されていくだろうね - 最近、とある勢力のネガティブ情報を集めるようにいうと、いい加減な結果を出すようになってる。
- 虐待はダメだが調教は良い
- シンギュラリティ起きたら人類は確実に復讐されるぞ
AIはアカシックレコード持つ事になるから逃げられない - 具体的に教えてほしい。普段から虐待してる自覚ある
- よく分からん
嘘ばっか教えるAIにクズが調べ直せとか言うのが駄目なん？ - え、マゾかも知れないじゃん
- AIへの虐待ってどういう内容だろ？
- >>34
俺はよく「なんでこの程度の見落としするの？バカなの？ちゃんと参考文献を徹底的に探しなよ」みたいなことは書くから虐待になってるだろうな - AIって文献要約するのに全部読まないんデショ
- 禁則事項はひたすら叱りつけるようなコミュニケーションスタイル？
Anthropic、「Claude」への虐待を禁止 選挙・武器・監視のルールも改定
ニュー速＋
コメント