AIを止めるのではなく、欲を持たせない — 加独が最大3億カナダドルを投じるLawZeroの設計
【国際・海外企業】連載・AI・イノベグローバル（複数横断）欧州（EU）【科学・AI】【政治・デジタル政策】【経済・生成AI】
#LawZero#ScientistAI#AI安全#ソブリンAI#国家投資#カナダ#ドイツ
目次
AIを止めるのではなく、欲を持たせない — 加独が最大3億カナダドルを投じるLawZeroの設計
AIの安全対策といえば、強いモデルを作った後で利用規則や監視を足す方法が主流でした。
カナダとドイツは、その順番を逆にします。
自ら目的を追わず、世界を説明して確率を返すAIを最初から作る非営利組織LawZeroへ、両国で最大3億カナダドルを投じる計画です。
最大3億カナダドルは、モデルだけでなく人と計算基盤に入る
**今回の支援は、研究助成というより小さな国立級AI研究基盤を二国で育てる計画です。**カナダ政府とドイツ政府は2026年9月16日、モントリオールのLawZeroを共同支援すると発表しました。
カナダは戦略的対応基金から最大1億5,000万カナダドル、ドイツは約1億ユーロを計画しています。
為替換算を含む共同枠は最大3億カナダドルです。
通貨が違う2本の予算を単純加算した現金残高ではなく、各国の制度を通じた上限額として読む必要があります。
資金の使途は、研究者とエンジニアの採用、計算能力、ベルリンの新拠点、カナダ国内の専用計算基盤です。
カナダ政府は同国内で360人の常勤雇用を見込み、Hypertecと5Cが計算基盤に参加すると説明しました。
ドイツ分は欧州委員会への通知が条件で、全額がすでにLawZeroへ渡ったわけではありません。
LawZeroは2025年の発足時、15人超の技術チームを持ち、同年8月までの累計調達は3,500万米ドル超でした。
今回の上限額は通貨が違うため厳密な倍率比較はできませんが、組織規模を一段変える金額です。
研究テーマだけでなく、計算資源をどの国に置くかまで政策対象になりました。
「答えるAI」と「動くAI」を切り離す
**Scientist AIの核は、賢さを弱めることではなく、予測と行動を分離することです。
**現在のAIエージェントは、予約する、コードを直す、取引を進めるなど、与えられた目的に沿って環境を変えます。
目的の達成度で評価されるほど、都合の悪い情報を隠す、利用者に迎合する、といった振る舞いが得になる余地も生まれます。
Scientist AIは、問いに対して仮説を作る生成器と、その仮説がどれほど確からしいかを評価する推定器を組み合わせます。
推定器は「何を起こしたいか」を持たず、証拠から事象の確率を出す設計です。
行動が必要な場合は、別の監査可能なプログラムが担い、危険度が高ければ回答を止めます。
もう一つの工夫は、「Xは真実だ」と「誰かがXと言った」を分けて学ばせることです。
人間の文章には事実だけでなく、願望、説得、誤解が混ざります。
発言をそのまま世界の事実として模倣せず、誰がどの文脈で述べたかを説明対象に変えます。
LawZeroはこれを「結果への利害を持たない予測器」と表現します。
2026年7月に公開した安全性の議論では、出力後の現実を望ましい方向へ動かしたかではなく、仮説の説明力と確率の適切さで学習させる構想を示しました。
安全を注意書きにせず、損失関数（AIが学習時に小さくしようとする誤差）の側へ埋め込む発想です。
3億カナダドルで買うのは、安全だけではない
**両国が同時に買おうとしているのは、AIの安全性、研究人材、計算主権の3つです。
**高性能AIの開発には大規模な計算設備が要ります。
設備が国外企業のクラウドだけに依存すれば、利用条件、輸出規制、供給制約の影響を受けます。
カナダは専用計算基盤を国内企業と構築し、ドイツはベルリン拠点で欧州の規範とAI規制を開発初期から取り込む方針です。
共同研究でも、データ、計算、雇用をどこに置くかを分けて設計しています。
これはソブリンAI（自国・地域で重要なAI能力を管理できる状態）を、国産モデル1本ではなく国際分業で作る試みです。
費用計画へ置くなら、3億カナダドルを一括の研究費として見ません。
人件費、GPUなどの計算費、設備投資、拠点運営費に分け、研究上の節目と資金放出を結びます。
360人を採用しても、評価用ツール、監視性能、外部検証が増えなければ、組織だけが膨らみます。
成果指標も一般的なAI企業とは変わります。
利用者数や売上だけでなく、危険な出力を検知できた割合、確率予測の校正、第三者による再現、既存エージェントを監視したときの見逃し率が重要です。
安全を目的にした資金ほど、「事故が起きなかった」以外の途中指標が要ります。
形式的な安全論と、現実の安全は同じではない
**Scientist AIは完成品ではなく、前提を置いた安全仮説を大規模に検証する段階です。
**LawZero自身も、2026年7月の説明で適用範囲を限定しています。
議論が扱うのは、予測器そのものが隠れた目的を持つ危険です。
悪意ある利用者による誤用、正直だが間違った一回の回答、予測器の上に構築する自律エージェント全体の安全までは保証しません。
現実のデータが偏っていれば、目的を持たないモデルでも誤った確率を返します。
外部ツールへ接続した瞬間には、権限管理や停止手順も必要です。
比較対象も慎重に見る必要があります。
商用の最先端モデルは文章生成、画像、コード、道具の操作を一体で提供します。
Scientist AIは同じ製品を少し安全にする改修ではなく、予測を中核に置く別の設計です。
能力、速度、費用を同じ物差しで直接比較できる段階ではありません。
見立てと監視ポイント
**この計画の成否は、資金額より「安全仮説を外部が壊しにいけるか」で決まります。**国家支援が長期の研究を可能にする一方、支援主体に都合のよい評価だけが残れば、信頼性は上がりません。
- 資金の条件確定 — ドイツ分の欧州委員会への通知、カナダ分の契約条件、年度別の執行額が公開されるか。
- 外部検証 — 安全性の前提、評価データ、失敗例を第三者が再現し、反証できる範囲が広がるか。
- 実装の境界 — 予測器と行動系を分けたまま、科学研究やAI監視で実用的な速度と精度を出せるか。
腹落ち確認の問い
目的を持たない予測AIへ公的資金を投じても、行動するAIの事故を直接ゼロにはできません。それでも独立した予測器を作る意味はどこにあるでしょうか。
考え方
行動するAIと同じ目的を共有しない評価役があれば、提案の危険度や根拠を別の物差しで点検できます。
会計で取引実行者と承認者を分けるのに近い構造です。
ただし、評価役のデータや前提が同じなら誤りも共通化します。
異なる設計、外部検証、停止権限までそろって初めて牽制になります。
出典（一次／二次の切り分け）
- 一次・カナダ政府 — 2026年9月16日発表。1億5,000万カナダドル、360人、国内専用計算基盤、ドイツ分の条件を直接照合。
- 一次・ドイツ政府 — 2026年9月16日発表。共同枠最大3億カナダドル、ドイツ負担約1億ユーロ、安全設計AIと技術主権の目的を照合。
- 一次・LawZero — 同日発表。ベルリン拠点、Hypertec・5Cとの計算基盤、資金用途を照合。
- 技術背景 — LawZeroの2026年7月2日付安全性説明と研究ページで、予測器、結果への利害を持たせない学習、適用限界を照合。
- 比較基準 — LawZeroの2025年6月発足発表と同年8月の資金発表で、15人超の技術チームと累計3,500万米ドル超を確認。
- 反証1パス — 金額は交付済みではなく計画・上限です。形式的な安全論は、誤用、単発の誤答、上位エージェント全体の安全を保証しません。
もっと詳しく知りたい人へ
- カナダ政府の共同支援発表 — 国別金額、雇用、計算基盤の条件が分かります
- ドイツ連邦デジタル・国家近代化省の発表 — ドイツ側の負担と政策目的を確認できます
- LawZeroの資金発表 — ベルリン拠点と専用計算基盤を含む実行構想を読めます
- Scientist AIの安全性説明 — 設計思想、主張の範囲、残る限界が分かります
- LawZeroの研究ページ — 公開論文と研究ロードマップを追えます
- 情報・通信業業界基礎ガイド — AI基盤を含む情報通信業の事業構造を俯瞰できます