ロボット三原則崩壊。Google「AIを兵器に使ってもいいよ」こうしてPlanetarianの世界へ

アルファベットは、AI使用の指針となる行動規範を書き換え、「危害を加える可能性が高い」利用を禁じる項目を削除した。

グーグルのジェイムズ・マニーカ上級副社長と、AI研究所の「グーグル・ディープマインド」を率いるデミス・ハサビス氏は4日付の連名のブログ投稿で、この削除の正当性を主張した。

両者は、「国家安全保障を支援する」AIに関して、企業や民主的な国々の政府が協力する必要があるとしている。

AIの専門家や関連業務に携わる人たちの間では、この強力な新技術を大まかにどう管理すべきか、商業利益が方向性を決めるのをどこまで許容すべきか、人類にとってのリスクからどう自分たちの身を守るのが最善か――といった議論が交わされている。

戦場や監視技術におけるAIの使用についても、論争が起きている。

マニーカ上級副社長らのブログ投稿は、2018年に発表された元のAI行動規範について、技術の進化に伴い更新が必要だと主張。

「何十億人もがAIを日常生活で使用している。AIは汎用（はんよう）技術となり、無数の組織や個人がアプリ開発のために使うプラットフォームになった」とした。

一方で、世界の地政学的な状況はますます複雑になっていると説明。「AI開発は、自由、平等、人権の尊重といった核となる価値観に導かれて、民主主義国家がリードすべきだと信じている」とした。

そのうえで、「このような価値観を共有する企業や政府、組織は、人々を守り、世界の成長を促し、国家安全保障を支えるAIを創造するために協力すべきだと信じている」と記した。