この記事のポイント
- Google DeepMind InstituteはAGIが社会へ与える影響を異分野で議論する場です。
- 発足時のエッセイは研究者や専門家の視点で、政府の規制や新制度の決定ではありません。
- 研究成果の評価では、提言と実際の政策・運用を分けて確認します。
Google DeepMindの公式資料から、新しい議論の場を紹介します。研究者の提言と制度上の要件を分けて整理します。
DeepMind Instituteとは? 異分野の専門家が議論する場
AGI(Artificial General Intelligence=汎用人工知能。特定の作業だけでなく、人間のように幅広い知的タスクをこなせるAIを指します)が近づくにつれ、その影響を技術者だけで判断するのは難しくなってきました。DeepMind Instituteは、この状況を見据えて作られた議論の場です。
Google DeepMindの公式サイト「Introducing the DeepMind Institute」によると、共同創業者でChief AGI ScientistのShane Legg氏、President, Research, Labs, Technology & SocietyのJames Manyika氏、共同創業者兼会長のDemis Hassabis氏らが主導しています。掲げるミッションは「AGIが近づく今、その人類への深い影響を理解するには、学際的な思考が急務だ」というもの。技術の話だけでなく、経済・社会・倫理といった異分野の専門家を集めて議論しようという試みです。
発足時に公開された5本のエッセイ、代表的な3本
DeepMind Instituteは発足時に5本のエッセイを公開しました。いずれも研究者個人の見解として書かれたもので、テーマは多岐にわたります。代表的な3本を紹介します。
- 推論の透明性を守る(Rohin Shah氏らのエッセイ): AIモデルは「Chain of Thought(思考の連鎖)」と呼ばれる、人間が読める言葉で考える過程を書き出す仕組みを持ちますが、効率を優先すると人間に見えない形で推論する可能性があると指摘。透明性の維持が、AIの不正やごまかしを見抜く鍵になると訴えています。
- AGI時代の経済政策(Julian Jacobs氏・Alex Imas氏のエッセイ): AGIが仕事や所得に与える混乱への備えとして、失業保険のような労働市場対応型の政策からベーシックインカムのような構造的な政策まで、11の選択肢を「福祉」「個人の自主性」「実行可能性」「耐久性」の4基準で評価しています。
- フロンティアAIのテスト方法(Demis Hassabis氏のエッセイ): サイバーセキュリティ・核やバイオのリスク、自律型システムの「再帰的自己改善」による制御喪失の可能性を危機シナリオとして提示。四半期ごとの評価手法更新や、フロンティアラボが公開前の最大30日間モデルを標準化機関に任意で共有する枠組みを提案しています。
出典・参考資料：Google DeepMind。
まとめ:議論の提案と制度変更を区別する
AIと社会制度の関係を調べる方には、技術以外の論点を知る入口になります。研究者の提案は、決定済みの制度や契約要件ではありません。社内で紹介する場合は、誰の見解かと、まだ議論中の点を添えるとよいでしょう。
AIの能力をめぐる国際的な議論としては、米中のAI協議における呼称合意を解説した記事も参考になります。
AIの開発・改善そのものを自律的に進める研究という観点では、ELYZAが自己改善AIの研究組織を設立した動きも参考になります。
