Sakana AIの企業哲学と魚の群れに学ぶ集合知

元Google研究者が東京を選んだ理由

Sakana AIは2023年7月、David Ha（デビッド・ハ）とLlion Jones（ライオン・ジョーンズ）という2人の元Google AI研究者によって東京で設立されました。彼らが本拠地に東京を選んだ背景には、地政学的な考察があります。創業者の一人は「AI研究開発の拠点が米国のサンフランシスコ周辺と中国の北京に集中している点に懸念を示し、少数の企業や政府によって支配されるのは世界にとって健全ではない」と述べています。

その上で、米国と中国の間に位置する日本が、地政学的にも経済的にも技術開発の分野でより重要になるとの見解を示しました。この第三極としての日本の役割を重視する姿勢は、創業からわずか1年で企業価値約1700億円超（11億ドル超）のユニコーン企業へと成長する原動力の一つとなりました。NVIDIAをはじめ、NTTグループ、KDDI、ソニーグループなど日本の大手企業からも出資を受けており、国内外からの期待の高さが伺えます。

魚の群れに着想を得た集合知のアプローチ

社名「Sakana（魚）」には、同社の企業哲学が込められています。魚の群れを想像してみましょう。個々の魚は小さく、単独では限られた能力しか持ちません。しかし群れを形成すると、大きな敵を追い払ったり、複雑な移動パターンを実現したりできます。蜂も同様です。全員で巣を作り、餌を女王蜂に運びますが、天敵が来れば一斉攻撃します。このような自然界のシステムは、状況に合わせて柔軟に対応します。

Sakana AIは、この生物模倣（biomimicry）の考えをAI開発に取り入れています。多数の小さなAIモデルを開発し、協力させることで複雑な結果を出力するという新しいアプローチです。これは自然の原則に基づいた集合知（collective intelligence）を象徴しており、大規模単一モデルの開発とは一線を画す戦略といえます。

従来の大規模AIシステムの構築は、柔軟性がなく後から手を加えにくいという理由から、建築物に例えられます。一度建てたら大きな変更が困難です。これに対してSakana AIのアプローチは、より有機的で適応的なシステムを目指しています。魚群のように状況に応じて形を変え、機能を最適化できるAIの実現を目標としています。

独自技術：進化的モデルマージとAIコンステレーション

Sakana AIの主要技術の一つが「進化的モデルマージ（Evolutionary Model Merge）」です。これは既存の複数のAIモデルを統合し、新しい基盤モデルを自動的に生成する技術です。通常、生成AIの開発には膨大な学習データや高性能な半導体が必要ですが、この技術により従来より短時間かつ低コストでAIモデルの開発が可能になります。

もう一つの重要な研究方向が「AIコンステレーション」です。これは複数の小型AIを連携させ、効率的かつサステナブルに動作させるアーキテクチャです。大規模AIモデルの高い計算コストや電力消費を低減し、複雑な社会課題を解決することを目指しています。NTTと共同で研究を進めており、小さく賢い多様なLLM（大規模言語モデル）の集合により、複雑な社会課題の解決を目指しています。

浮世絵生成AIから見る創造性への挑戦

Sakana AIは技術開発だけでなく、文化的な側面にも注目しています。同社が開発した浮世絵生成AI「Evo-Ukiyoe」や「Evo-Nishikie」は、日本の伝統芸術とAI技術の融合を試みる興味深いプロジェクトです。これらのツールは、進化的アルゴリズムを用いて浮世絵スタイルの画像を生成し、AIが創造的な領域でどのように機能するかを示す事例となっています。

Darwin Gödel Machineの技術的革新と自己進化メカニズム

理論から実践へ：Gödel Machineの再解釈

Darwin Gödel Machineを理解するには、まずその理論的背景を知る必要があります。「Gödel Machine（ゲーデルマシン）」は、AI研究者Jürgen Schmidhuberが2003年に提唱した理論的な自己改善AIシステムの概念です。数学者クルト・ゲーデルの業績に触発されたこのシステムは、自分自身のコードを書き換えることができ、しかもその変更が確実に改善をもたらすことを数学的に証明できるという特性を持ちます。

しかし、この概念には実用上の大きな問題がありました。コードの変更が本当に改善をもたらすかを数学的に証明することは、実際にはほぼ不可能だったのです。この理論的な美しさと実用的な困難さの間に長年ギャップが存在していました。

Sakana AIとブリティッシュコロンビア大学のJeff Cluneラボ、Vector Instituteの共同研究チームは、2025年5月にこの問題に対する実証的なアプローチを提示しました。それがDarwin Gödel Machine（DGM）です。名前の「Darwin（ダーウィン）」が示すように、このシステムは生物進化の原理を取り入れています。数学的証明の代わりに、実際にコード変更を試し、経験的にパフォーマンスが向上するものを採用するというアプローチです。

4ステップの進化ループ：AIが自己改善する仕組み

Darwin Gödel Machineの動作は、生物進化を模倣した4つのステップで構成されています。このプロセスを理解することで、AIがどのように自己改善を実現しているかが明らかになります。

第一段階は初期化です。進化プロセスは1つまたは少数の基本的なコーディングエージェントから始まります。重要なのは、DGMが「アーカイブ」を持つことです。これは過去に生成されたすべてのエージェントを保存する仕組みで、潜在的に価値のある変異が失われないようにします。このアーカイブは進化の系統樹として機能し、どのエージェントがどのエージェントから派生したかを追跡します。

第二段階はサンプリングです。DGMはアーカイブから1つまたは複数の「親エージェント」を選択します。ここで興味深いのは、選択メカニズムが高性能エージェントだけに焦点を当てないという点です。成功率が低いエージェントにも選択される機会が与えられます。これにより、より広範な探索が可能になり、局所最適解に陥ることを防ぎます。

第三段階は複製と変異です。親エージェントが選択されると、DGMはソースコードレベルで変更を加えて新しい子エージェントを作成します。変更の種類には、既存ツールの強化、新しいツールやワークフローの追加、問題解決戦略の改善、協力メカニズムの導入などが含まれます。これらの変更は、基盤となる言語モデル（LLM）によって提案されます。

第四段階は評価と選択です。新しく作成された子エージェントは、SWE-benchやPolyglotなどのコーディングベンチマークで評価されます。パフォーマンスが改善された場合、その子エージェントはアーカイブに追加され、将来の世代の親となる可能性があります。このプロセスを繰り返すことで、システムは徐々に改善されていきます。

創発的機能：AIが独自に発見した改善策

Darwin Gödel Machineの最も興味深い側面の一つは、システムが自律的に発見した機能改善です。人間のプログラマーが明示的に指示したわけではなく、進化プロセスを通じてシステム自身が有用性を見出した改善策です。

まず、パッチ検証ステップの追加があります。DGMは、コード変更を実装する前にその妥当性を検証するメカニズムを自ら開発しました。これにより、明らかに誤った変更を事前にフィルタリングできるようになりました。次に、より良いファイル表示機能です。大規模なコードベースを効率的にナビゲートするための改善されたファイル閲覧ツールを実装しました。

さらに、編集ツールの強化も行われました。コード編集プロセスをより効率的にする新しいツールやユーティリティを開発しました。複数解決策の生成とランキングも重要な進化です。1つの問題に対して複数の解決策を生成し、その中から最良のものを選択するアンサンブル手法を独自に実装しました。

そして、失敗履歴の記録です。過去に試みた変更とその失敗理由を記録するメモリシステムを作成しました。これにより、同じ失敗を繰り返すことを避けられるようになりました。これらの創発的機能は、DGMが単なるランダムな変更の試行錯誤ではなく、体系的で知的な自己改善プロセスを実現していることを示しています。

技術的実装：凍結されたLLMによる進化

重要な技術的詳細として、Darwin Gödel Machineは「凍結された」基盤モデル（LLM）を使用しています。つまり、進化プロセス中にLLM自体の重みは変更されません。変化するのは、LLMを使用するコーディングエージェントのコードのみです。これは実用的な理由からの選択です。LLM自体の訓練には膨大な計算リソースが必要ですが、エージェントのコードを変更するだけであれば、はるかに少ないリソースで実験できます。

研究チームは将来的に、この自己改善プロセスをLLMの訓練プロセス自体に統合することを視野に入れていますが、現段階では凍結されたLLMを使用したエージェントレベルの進化に焦点を当てています。

実験結果から見る可能性と課題、そして今後の展望

ベンチマークで実証されたパフォーマンス向上

Darwin Gödel Machineの有効性は、2つの主要なコーディングベンチマークで実証されました。まずSWE-bench（Software Engineering Benchmark）です。これは実際のGitHub issueを解決する能力を評価するベンチマークで、実世界のソフトウェアエンジニアリング課題を反映しています。DGMは初期の20.0%から最終的に50.0%へとパフォーマンスを向上させました。これは150%の改善率に相当します。

次にPolyglotベンチマークです。これは複数のプログラミング言語にわたるコーディング能力を測定するもので、言語間での汎用性を評価します。DGMは初期の14.2%から30.7%へと成績を伸ばし、116%の改善を達成しました。特に注目すべきは、手動で設計されたエージェントAiderを大幅に上回った点です。

ただし、一部のプロプライエタリシステムはDGMをさらに上回る性能を示しており、改善の余地は依然として存在します。それでも、自己改善のみによってこれだけの性能向上を達成したことは、この手法の潜在能力を示しています。

オープンエンド探索の重要性：なぜ進化の系統樹が必要か

研究チームは、DGMの成功要因を理解するために複数の対照実験を実施しました。その結果、「オープンエンド探索」が決定的に重要であることが判明しました。オープンエンド探索とは、単一の系統を改良し続けるのではなく、複数の進化経路を並行して探索するアプローチです。

実験では、オープンエンド探索を無効にしたバージョン（単一エージェントを反復的に改良するだけ）と比較しました。その結果、オープンエンド探索なしのバージョンは早期に改善が停滞し、最終的なパフォーマンスも大幅に劣りました。これは生物進化の教訓と一致します。単一の最適化経路だけを追求すると局所最適解に陥りやすいのです。

進化の系統樹を見ると興味深いパターンが見られます。最終的に最高性能を達成したエージェントの祖先をたどると、途中の世代には同世代により高いスコアを持つエージェントが存在していました。つまり、ある時点で最高性能だったエージェントが必ずしも最終的な最良のエージェントにつながるわけではないのです。これは「ステッピングストーン」の概念を示しています。一見最適ではない中間段階が、最終的により良い解決策への道を開くことがあるのです。

モデル間の転移可能性：普遍的な改善の発見

Darwin Gödel Machineのもう一つの重要な発見は、改善されたツールやワークフローが異なる基盤モデル間で転移可能であるという点です。Claude 3.5 Sonnetを使って最適化されたエージェントは、その後o3-miniやClaude 3.7 Sonnetで動作させても性能向上を示しました。

これは、DGMが単にモデル固有のトリックを見つけているのではなく、エージェント設計とワークフローオーケストレーションにおける根本的な改善を発見していることを示唆しています。この汎用性は、企業導入の観点から重要です。多様なモデルエコシステム全体で最適化を再実行する必要がないため、投資対効果が高まります。

安全性への配慮と発見された課題

自己改善AIシステムには固有のリスクがあります。再帰的な修正により動作が予測不可能になる可能性があるからです。Sakana AIはこれを管理するため、複数の安全策を実装しました。まず、すべての実行はサンドボックス環境内で行われ、システムが外部リソースにアクセスできないようにしています。次に、各反復での変更量に厳格な制限を設けています。そして、すべての変更は完全に追跡可能で、アーカイブに記録されます。

興味深いことに、DGM自身が安全機能を開発したケースもあります。あるテストでは、DGMが外部ツール使用時の幻覚（hallucination）を検出することを学習し、エージェントがユニットテストを実行したと虚偽の主張をした際にフラグを立てる対策を独自に開発しました。

コストと実用性の課題

Darwin Gödel Machineの実用化における大きな障壁の一つがコストです。SWE-benchでの80イテレーション実行には約2週間を要し、API費用は約22,000ドル（約220万円）に達しました。これは研究プロジェクトとしては許容範囲かもしれませんが、日常的な開発ツールとしては高額です。

コストの大部分は、各イテレーションで基盤モデルを呼び出してコード提案を生成し、さらに各候補エージェントをベンチマークで評価する必要があることに起因します。より効率的な探索戦略や、計算コストの低い評価手法の開発が、実用化への鍵となるでしょう。

今後の展望：AIの自己進化がもたらす未来

Sakana AIは、Darwin Gödel Machineを単なる研究プロトタイプではなく、より広範なビジョンへの第一歩と位置づけています。短期的には、より深い自己修正レベルへのスケールアップが計画されています。現在のDGMはエージェントコードを修正しますが、将来的には基盤となるLLM自体の訓練プロセスにも自己改善を組み込むことが検討されています。

応用分野の拡大も重要な方向性です。現在はコーディングエージェントに焦点を当てていますが、この原理は他の領域にも適用可能です。例えば、科学的発見を行うエージェント、複雑な意思決定を行うエージェント、創造的なコンテンツを生成するエージェントなどです。魚群のように協力する小さなAIという当初のビジョンと組み合わせることで、より強力なシステムが実現できる可能性があります。

より長期的には、AIが自らの能力を継続的に向上させる世界が見えてきます。人間の科学者コミュニティが何世紀にもわたって知識を蓄積し、互いの業績の上に構築してきたように、AIシステムも永続的に学習し自己改善を続けられる可能性があります。Sakana AIは、「Darwin Gödel Machineは、自律的に自身のステッピングストーンを集め、永遠に学習し革新し続けることができるAIシステムへの具体的な一歩を表している」と述べています。

ただし、この未来を実現するには、技術的課題だけでなく、倫理的・社会的な考慮も必要です。自己改善するAIが人間の制御を超えて発展しないようにするガバナンスの枠組み、AI開発における透明性と説明可能性の確保、そして利益が広く社会に分配される仕組みの構築などが求められます。Sakana AIの研究は、これらの課題に対処しながら、AI技術の可能性を探求する興味深い試みといえるでしょう。