OpenAI、米大統領選挙でAI利用禁じる　初の措置
https://www.nikkei.com/article/DGXZQOCB220730S4A120C2000000/

『【ワシントン=共同】対話型人工知能（AI）「チャットGPT」を開発した米新興企業オープンAIは21日までに、大統領選で民主党候補指名を争うフィリップス下院議員（55）の支援団体が選挙運動で活用する対話型AIへの自社技術の利用を禁じた。こうした措置は初めてとみられる。ワシントン・ポスト紙が報じた。

対話型AIはフィリップス氏を支持するスーパーPAC（政治活動委員会）がインターネットで公開し、専門家から偽情報拡散への懸念が上がっていた。オープンAIは、選挙などの政治活動での使用を禁じた社の指針に反すると判断。米国だけでなく日本を含む各国での選挙活動の在り方に影響を与えそうだ。

フィリップス氏をモデルにした対話型AIは、過去のフィリップス氏の演説内容を学習し、本人に似た話しぶりで市民が投げかける質問に回答する。専用サイトには「内容が不正確な可能性がある」と注意事項を表示し、同意した場合に限り利用できる設計だった。

技術利用を禁じたのは19日付。スーパーPACからフィリップス氏をモデルにした対話型AIの作成を受注した別のAI新興企業に対し、オープンAIがチャットGPTの技術を利用できないようにした。

オープンAIの担当者は「全ての利用者はわれわれの指針に従う義務がある」と強調した。
民主党では、再選を目指すバイデン大統領（81）の指名が確実視される。フィリップス氏は世代交代を訴えているが、支持は広がっていない。

【関連記事】

・OpenAIのアルトマンCEO、解任騒動「教訓得た」
・OpenAIの社員9割、退社も辞さず　取締役会に総退陣迫る
・米NYタイムズ、OpenAIを提訴　記事流用で数千億円損害

ニュースレター登録
多様な観点からニュースを考える

※掲載される投稿は投稿者個人の見解であり、日本経済新聞社の見解ではありません。

浅川直輝のアバター
浅川直輝
日経BP　編集委員
コメントメニュー

分析・考察

OpenAIは自社サイト上で使用禁止事項を明記しており、例えば「マルウエア生成」「アダルトコンテンツ作成」「無資格の法律行為」などがありますが、その1つに「政治運動またはロビー活動」があります。

今回はOpenAIのAPIをリアルタイムに呼び出す対話型AIサービスが規約に違反したとして、AI新興企業に対してAPIの提供を停止する措置を講じたと思われます。

ただ、非リアルタイムの用途（政治運動に使うアジテーション文章の大量生成など）について事前に差し止めるのは容易ではありません。2024年の選挙イヤーに向け、生成AIの悪用をどこまで抑制できるのか、生成AI提企業の管理・監視態勢が問われます。
2024年1月22日 11:27　』