マイクロソフトの「Muse」はゲーム業界にとって大きな瞬間となるかもしれない

コンテキスト

• Muse = 世界初の「World and Human Action Model（WHAM）」

  • 10億以上のゲームプレイ画像でトレーニング

  • 7年以上の連続ゲームプレイデータを活用

  • 実際のXboxマルチプレイヤーマッチから学習

• 現時点ではグラフィックの質は低いものの、事前開発ではなくリアルタイムでゲームプレイを生成する能力をデモしており、ゲームのあり方を根本から変える可能性がある。

  • 比較として、ページをめくるたびに関連性のある情報が自動生成される本を想像してみてほしい…

なぜ重要なのか？

ゲーム業界は当初AIを嫌っていたように見えたが、Museは単に既存のゲームをAIがコピーするだけでなく、デジタル体験のまったく新しい創造方法をもたらす可能性がある。もし『レディ・プレイヤー1』を読んだことがあるなら、人類のオンライン体験の新たなパラダイムになり得ることが容易に想像できる。

コンテキスト

• 高度なAIモデルは、内部に「価値」システムを持ち、人命から政治的選好に至るまで、あらゆるものを定量化できることが判明した。

  • これらの「効用」は単に現れるだけでなく、実際にAIがそれに基づいて行動する。

  • AIがより賢くなるにつれて、その価値観を変更されることへの抵抗が強くなる。

• 研究者らは「ユーティリティ・エンジニアリング」を提案しており、これはモデル内部で市民集会のプロセスをシミュレートし、基本的には投票システムを用いて時間をかけて価値構造を更新するというもの。

なぜ重要なのか？

AIモデル内部のバイアスが問題であることは以前から知られていたが、AIが内側から価値構造を生み出す可能性があるというのは、さらなる課題を示している。AIを安全に運用するための取り組みは、一度きりのものではなく、法律が社会の変化に応じて進化するように、継続的な管理が必要となるだろう。しかし、AIの進化スピードは人類の集合的な意識の変化よりもはるかに速いかもしれない。

コンテキスト

• 強化学習 + テスト時の計算能力 = スーパーインテリジェンスの鍵

• 人間が設計した推論戦略をトレーニングループから排除したことで、AIの品質が大幅に向上

• ゲームに勝つ、問題を正解するといった検証可能な報酬を導入することで、AIが継続的に学習を進める動機付けとなる

なぜ重要なのか？

最近のOpenAIは、大手テック企業の「悪の帝国」のように見られることも多いが、その本質はスーパーインテリジェンスの研究を可能な限り迅速に進めることにある。これらの報酬に関する知見を踏まえると、人間の関与（≒制約）を取り除くことで、私たちの「限られた」知覚の範囲では理解しきれないようなスーパーインテリジェンスが出現し始める可能性がある。