中国、生成AIに審査義務　「国家分裂の扇動」など禁止

中国、生成AIに審査義務　「国家分裂の扇動」など禁止
https://www.nikkei.com/article/DGXZQOGM116QU0R10C23A4000000/

　※　どこまで行っても、「人間らしく、自分の頭で、ものを考える力」が、「鍵（かぎ）」となる…。

『2023年4月11日 17:19

【北京=多部田俊輔】中国政府は11日、精緻な文章や画像などを作り出す生成AI（人工知能）の規制案を発表した。社会主義体制の転覆や国家の分裂などを扇動する内容を禁止し、当局による事前審査を義務付ける。生成AIを含めてネット世論の統制を強化する。

中国でネットを統制する国家インターネット情報弁公室が同日、全21条で構成する「生成型AIサービス管理弁法案」を公表した。5月10日まで専門家らの意見を聴取…

この記事は会員限定です。登録すると続きをお読みいただけます。』

『5月10日まで専門家らの意見を聴取し、年末までの実施を見込む。

規制案は第1条でインターネット安全法（サイバーセキュリティー法）、データ安全法（データセキュリティー法）、個人情報保護法に基づき、生成AIの健全な成長を目的とすると明記した。第2条でアルゴリズム（計算手法）やモデルなどに基づいて生成された文章、画像、音声、動画などを規制対象とした。

第4条で生成AIのサービスは法律、法規を順守し、習近平（シー・ジンピン）指導部が示す社会主義核心価値観を体現しなければならないと規定した。政権や社会主義体制の転覆、国家分裂の扇動、国家統一を損なう内容、テロリズムの宣伝、暴力、わいせつ、虚偽情報などを含む内容を禁止した。

中国共産党と習指導部による統治や、台湾統一に向けた動きに対する批判を排除する狙いがあるとみられる。

消費者へのサービス提供前にネット当局のセキュリティー審査を受けることも義務付けた。当局はネット検索サービスなどに事前審査を求めており、生成AIも対象に加える。

中国は「ChatGPT（チャットGPT）」など米国の生成AIの国内利用を厳しく規制している。当局の指導の下で百度（バイドゥ）やアリババ集団などが独自の生成AIの開発に取り組む。

生成AIをめぐってはデータの不正収集や差別、偽情報の助長、サイバー攻撃への悪用といった懸念も出ている。イタリアが利用を一時禁止するなど、個人データ保護法制が厳しい欧州を中心に規制強化が進む可能性がある。米国でも非営利団体などがAI開発の危険性を指摘して規制を訴えている。

【関連記事】

・高度なAIの開発中断、マスク氏ら要求　慎重論の背景は？
・ChatGPTは「人類の危機」か　AI開発停止運動で波紋
・[FT]ChatGPTの背中を追う中国テック大手

ニュースレター登録

多様な観点からニュースを考える
※掲載される投稿は投稿者個人の見解であり、日本経済新聞社の見解ではありません。

楠正憲のアバター
楠正憲
デジタル庁統括官　デジタル社会共通機能担当
コメントメニュー

ひとこと解説　LLMの開発において、たくさんの利用者に使ってもらって、そのフィードバックで強化学習を行うプロセスは重要だ。表現の自由が認められている西側諸国にとって、中国がLLMを使ったサービス提供を厳しく規制することは、開発競争を優位に進める機会となり得る。一方で子どもによる利用でトラブルが生じたり、LLMを悪用した事件が起きた場合、もっと厳しく規制すべきとの議論が起こるのも時間の問題だ。対話型AIの悪用や国家による統制といった負の側面からも目を背けずに、社会としての向かい合い方を考えて、様々な立場からオープンな対話を積み重ね、国際的なルールの形成に貢献していく必要があるのではないか。
2023年4月11日 20:26いいね
16

佐藤一郎のアバター
佐藤一郎
国立情報学研究所　教授
コメントメニュー

ひとこと解説　一般論だが、対話型AIは、国家による言論操作にとっても強力なツールとなりうる。

というのは①学習・生成アルゴリズムの調整、学習対象のデータを限定したり、特定の質問を制限することで、容易に結果を偏らせることもできる。②利用者が対話型AIの結果に満足すればその結果の元情報を見なくなるからだ。つまり、国家の都合のいい情報空間に人々を閉じ込めることができる。さらにそうした偏った対話型AIを他国に輸出することは、その他国の世論を操作できることになる。

　対話型AIを画期的な技術だとして、その効用を議論するのも結構だが、そろそろ対話型AIの負の影響を議論すべき時期に来ているのではないか。
2023年4月11日 19:12 (2023年4月11日 19:29更新)
いいね
40

浅川直輝のアバター
浅川直輝
日経ＢＰ　「日経コンピュータ」編集長
コメントメニュー

ひとこと解説　中国が求める対話AIを開発するには、対話AIが出力するテキストが「体制の転覆」「国家分裂の扇動」などに相当する否かを判定するAIモデルを新たにつくり、強化学習などを通じて対話AIの出力に一定の制約を設ける必要がありそうです。

ただChatGPTが自ら証明したように、ユーザーが質問文（プロンプト）を工夫することでこうした制約を外す「脱獄」も原理的には可能です。脱獄を試みるユーザーが増え、続いて中国が脱獄用のプロンプトを規制し･･･といったいたちごっこになる可能性があります。
2023年4月11日 21:08　』