ChatGPTのOpenAI社長、AIのルール決め「全員参加を」

ChatGPTのOpenAI社長、AIのルール決め「全員参加を」
https://www.nikkei.com/article/DGXZQOGN18DXK0Y3A410C2000000/

『【シリコンバレー=渡辺直樹】対話型のAI（人工知能）「ChatGPT（チャットGPT）」を開発した米新興オープンAIの共同創業者兼社長のグレッグ・ブロックマン氏は18日、カナダのバンクーバーで開かれた「TED2023」で講演した。「AIを正しく理解し、ルールを決めていくためにはすべての人の参加が必要で、リテラシー（知識や判断力）を高めなければいけない」と呼びかけた。

ブロックマン氏はサム・アルトマン最高経営責任者（CEO）とともにオープンAIで開発を主導する役割を担っている。

高度な言語能力を持つAIが世界で急速に広がる一方、プライバシー侵害や、間違った情報が広がるといった課題も山積している。適切な利用に向け欧州を中心にAIの倫理規制の整備が進んでいる。

ブロックマン氏は講演で、チャットGPTが作成したグラフの間違いを自ら正すデモンストレーションをした上で、「人間が管理・監督し、質の高いフィードバックをしていくことでより信頼性の高いものをつくるこができる」と述べた。

チャットGPTはもともと秘密裏につくって内部で安全性を検証し、完璧なサービスとしてから一気にリリースする計画だったという。ただ、オープンAIの中でのみ開発を続けることへの倫理的な問題を感じ、「完璧になる前に（公開して）人々に（検証の）時間を与える代替的なアプローチが現実的な唯一の道だった」と明かした。

ブロックマン氏は「核兵器を含むあらゆる技術は急に0から1が誕生したように語られることが多い。だが技術開発は段階的におこない、そのつど、（技術の）能力を高めるための管理方法を考えなければならなかった」と検証のないまま無制限に高度な開発を進めていくことの危険性を指摘した。

「私たちは今、新しい技術を定義する歴史的な時代に突入していると感じている」とし、「AIに習熟し、AIに何を求めていくのかを（みなで）決定していくことがとても重要だ」と締めくくった。』