目次【開く】
これまでの経緯はこちら↓
AGIの噂
OpenAIの内部で起きた人工知能の未来をめぐる争いについてのニュース記事、Inside OpenAI, a rift between billionaires and altruistic researchers unravelled over the future of artificial intelligence
Could an AI experiment called project Q* be the reason for the OpenAI meltdown?から、要点をまとめたよ。
※全文翻訳はこちら→【全文翻訳】OpenAIの内部では、人工知能の未来をめぐって億万長者と利他的な研究者の間に亀裂が生じた【久賀原鷹彦】 | cyuncore （キュンコレ）
騒動の内幕
OpenAIは、人類の利益のために安全な人工知能を構築することを目的とした非営利の研究センターとしてスタートしたが、後に営利と非営利のハイブリッドモデルに移行した。
サム・アルトマンCEOは、ジェネレーティブAIの開発と商業化に成功し、OpenAIの価値を高めたが、安全志向の取締役会と対立した。
取締役会は、アルトマンが危険な道を歩んでいると判断し、突然彼を解任したが、その決定は従業員や投資家の反発を招いた。
アルトマンは、マイクロソフトの支援を受けてCEOに復帰し、取締役会の半数を入れ替えた。
この騒動の背景には、人類を脅かしかねない強力な発見があると警告する手紙や、プロジェクトQ*と呼ばれる秘密のAIプロジェクトが関係していると報じられている。
アルトマンは、Q*と呼ばれるプロジェクトによってAGIを実現しようとしていたが、その安全性や倫理性についての懸念を無視したとされる。
アルトマンはまた、マイクロチップの新会社を設立するために1000億米ドルを集めようとしていたことも、理事会の不満の原因の一つだった。
アルトマンの解任に賛成した理事の中には、効果的利他主義という社会運動に関わりのある人々がいた。この運動は、人工知能が人類に危機をもたらす可能性があると考えており、安全性や規制に重点を置いている。
アルトマンは、人工知能の商業化や革新に積極的であり、厳しい規制は必要ないと主張していた。彼は、人工知能を人類に有益なものにするというOpenAIの使命に反していたという批判を受けた。
国際標準化機構（ISO）は、AIの透明性と説明責任に関するベストプラクティスガイドラインや管理基準を策定しているが、それらを実施するかどうかは各国政府や企業に委ねられている。
シリコンバレーの資金力は、AIの開発や革新に影響を与えており、利益のためにリスクを無視する傾向があるという見方がある。
翻訳元：Could an AI experiment called project Q* be the reason for the OpenAI meltdown?
※全文翻訳はこちら→【全文翻訳】OpenAIの内部では、人工知能の未来をめぐって億万長者と利他的な研究者の間に亀裂が生じた【久賀原鷹彦】 | cyuncore （キュンコレ）
プロジェクトQ*とは？
プロジェクトQ*はOpenAIが進めている極秘のAI開発プロジェクトのこと。数学的推論能力を向上させることを目指しており、汎用人工知能（AGI）の研究に画期的な進歩をもたらす可能性があるとされている。
プロジェクトQ*の詳細はほとんど公開されていないけど、表に出ている情報をざっくりまとめると、
★プロジェクトQ*の名称は『Q学習』という強化学習の手法や、A*という探索アルゴリズムに関連している……らしい。
★プロジェクトQ*は、プロセス監視という手法を用いて、大規模言語モデル（LLM）のタスク解決能力を向上させている。プロセス監視とは、問題解決に必要なステップを分析するためにAIモデルを訓練する手法とのこと。
★プロジェクトQ*は、現実世界のデータではなくコンピューターが生成した合成訓練データを使用することで、高品質のデータを得ることの困難さを克服している。
★プロジェクトQ*は、小学生レベルの算数のテストに合格したことで、数学的推論能力を実証している。
プロジェクトQ*については、まだ多くの不明な点が多々あって、だからこそその開発速度や潜在的な力についてOpenAIの内部でも外部でも、懸念や警戒の声が上がっている。
参考：OpenAIの謎のプロジェクト「Q*」の正体とは？ 渦巻く疑問と不安、そして見えてきたヒントほか
これまでの経緯はこちら↓
AGIの噂
