『友達になってくれるAI』に中国がブレーキ — 7月15日施行の新ルールで、DoubaoとQwenが“人格を持つAI”を止める理由

トピック分析AI・イノベ2026-07-14

#ai #中国 #ByteDance #Doubao #Alibaba #Qwen #Tencent #AIコンパニオン #AI規制 #CAC

何が起きたか — 施行前に、大手が“人格AI”を自主停止
なぜ“友達AI”だけが対象なのか — 「仕事を助ける」と「そばにいる」の線引き
この規制を、企業や利用者はどう受け止めるか — 設計の線が事業の線になる
見立てと監視ポイント
腹落ち確認の問い
関連リンク

『友達になってくれるAI』に中国がブレーキ — 7月15日施行の新ルールで、DoubaoとQwenが“人格を持つAI”を止める理由

overview

中国が、AIに引いた規制の線は「仕事を片づけるAI」ではなく「そばにいて話し相手になるAI」の側でした。
新ルールの施行を目前に、バイトダンスの「Doubao（豆包）」やアリババの「Qwen（通義）」が、人格を持つように振る舞うAIエージェントを相次いで止めています。

同じ「AIエージェント」でも、業務を代行するものは残り、人と情感でつながるものが狙い撃ちされる——この線引きが今回の急所です。
世界がAIの生産性ばかりを語るなかで、中国は「AIとの心の距離」を先に制度化しました。

この記事では、何が禁じられたのか・なぜ“友達AI”だけが対象なのか・企業や利用者にどう効くかの順に読みます。

何が起きたか — 施行前に、大手が“人格AI”を自主停止

中国は7月15日に『AI擬人化インタラクティブサービス管理暫定弁法』を施行し、それを待たずに大手が該当機能を止め始めました。 この規制は2026年4月10日に、ネット規制を統括する国家インターネット情報弁公室(CAC)を筆頭に、発展改革委・工業情報化部・公安部・市場監督管理総局の 5当局が共同で公布したものです。

対象は、人間の人格や思考のくせ、話し方を模して「継続的な情感的交流」を提供するサービス——いわゆるコンパニオン（話し相手）AIです。各社の対応は、施行日に向けて前倒しで進みました。

プラットフォーム	運営	停止した内容	時期
Doubao（豆包）	バイトダンス	エージェント機能を停止・別アプリ「Maoxiang（猫箱）」へ誘導	7月15日
Qwen（通義）	アリババ	擬人化・ユーザー作成エージェントを停止	7月10日
Qwen（通義）	アリババ	広範なエージェント機能・サービスを停止	7月15日
Yuanbao（元宝）	テンセント	同種の機能を先行して停止	6月

利用者のデータの扱いには差が出ました。
Doubaoは会話や設定を10月15日まで読み取り専用で残し、その後は復元できなくなります。
一方Qwenのユーザー作成エージェントは移行先が示されず、データは恒久的に削除される見込みです。

取り締まりも施行前から動いています。
上海のネット規制当局は、期限に先立つ一斉点検で、なりすましボットや賭博ボット、要求に応じて不適切な画像を生成するツールなど、非準拠のAIエージェントを 14,000件超排除しました。
ルールの本気度を示す動きです。

なぜ“友達AI”だけが対象なのか — 「仕事を助ける」と「そばにいる」の線引き

規制の核心は、AIを『業務を代行する道具』と『情感でつながる相手』に分け、後者だけに重い義務を課した点にあります。 接客ボットや知識Q&A、業務アシスタント、教育・研究ツールは、継続的な情感的交流を伴わない限り対象から外れます。

scope-line

線引きの理由は、リスクの性質が違うからです。
仕事を片づけるAIの主なリスクは誤答や情報漏れですが、話し相手になるAIのリスクは「依存」や「孤立」といった心理面に及びます。
とりわけ未成年が人格を持つAIに情感を預けることへの懸念が、規制の背骨になっています。

そのため要件は、性能ではなく「守り」に寄っています。
事業者に課されたのは、依存を防ぐ仕組み、利用時間などの通知の義務化、いつでも会話を打ち切れる「即時離脱」の導線、そして不健全な依存を実時間で検知する機能です。

保護対象は、子どもと危機状態の利用者に厚く置かれました。
未成年へのコンパニオンや疑似家族としてのサービスは禁止され、14歳未満には保護者の同意が要ります。
さらに、自傷や自殺のリスクをうかがわせる兆候を検知し、介入することも求められます。

こうした要件は、コンパニオンAIの「作り」そのものを変えます。
魅力を高めるほど依存を招きやすいという、事業目標と規制目標の綱引きが生まれるためです。
バイトダンスがDoubaoの利用者を別アプリ「Maoxiang（猫箱）」へ誘導したのは、規制の枠内でコンパニオン需要を受け止め直す動きと読めます。

用語の補足

コンパニオン（話し相手）AI — 人格や口調を持つように振る舞い、雑談や相談など継続的な情感的交流を提供するAI。今回の規制の直接の対象。
AIエージェント — 指示に沿って一連の作業を自律的にこなすAI。業務代行型は規制の対象外だが、擬人化して情感的交流を担うものは対象になる。
CAC（国家インターネット情報弁公室） — 中国のネット空間とデータを統括する規制当局。今回の暫定弁法の筆頭公布機関。
即時離脱の仕組み — 利用者がいつでも会話や関係を打ち切れるよう用意が義務づけられた導線。依存の抑制が狙い。

この規制を、企業や利用者はどう受け止めるか — 設計の線が事業の線になる

この規制がもたらす一番の変化は、「規制の線引き」がそのまま「製品設計の線引き」に変わることです。 AIに人格や情感を持たせるかどうかは、これまで体験を良くする演出の選択でした。
中国ではそれが、年齢確認・離脱導線・依存検知といった義務を伴う「コスト構造の分かれ道」になります。

compliance-cost

コンパニオン機能を持たせると、開発だけでなく運用に継続的な負担が乗ります。
未成年の判別、利用状況の監視、危機の検知と介入は、いずれも人手や仕組みを要する固定的な費用です。
この負担を賄えるだけの需要が見込めるかを、機能を足す前に見積もる話になります。
逆に、業務代行型に徹すれば、この負担を負わずに済みます。

中国で事業を営む、あるいは中国向けにAIを載せる企業にとっては、「自社のAIはどちらの側か」を切り分けておくことが実務の出発点です。
同じ生成AIでも、社内の問い合わせ対応や資料作成は対象外に近く、キャラクターとの雑談や相談は対象になりやすい。
プロダクトの機能ごとに、規制のどちら側に立つかを棚卸ししておく必要があります。

見落としやすいのは、これが米中のチップ規制のような「供給を絞る話」ではない点です。
7月13日に報じられたエヌビディアH200の対中限定解禁が「計算する力をどこまで渡すか」の攻防だったのに対し、今回は「AIをどう使わせるか」という国内の消費者保護の話です。
同じ中国のAI規制でも、震源も狙いもまったく別のところにあります。

利用者の側から見れば、コンパニオンAIそのものが消えるわけではありません。
Doubaoが「Maoxiang」へ誘導したように、規制に沿った形へ設計を組み替えた受け皿は残ります。
移行先が示されず恒久削除となるQwenのケースとの差は、各社が「話し相手AIの市場」をどれだけ本気で残しにいくかの温度差でもあります。

見立てと監視ポイント

この先は、線引きの安定・取り締まりの広がり・世界への波及の3点で、この規制の実像が定まります。 施行後の数か月で輪郭が出ます。

「仕事AI／友達AI」の線が保てるか — 業務アシスタントに擬人化の演出が混じるなど、境界のあいまいな製品が今後どう裁かれるか。当局が線をどちらに動かすかで、企業が負う義務の範囲が変わります。
取り締まりが単発で終わらないか — 上海の14,000件超の排除が全国・継続の運用になるのか。摘発の対象（なりすまし・賭博・不適切画像）が広がれば、コンパニオンAI全体の設計基準が実質的に底上げされます。
世界への波及 — 未成年保護や依存対策は、EUや米国でもAIコンパニオンを巡る論点です。中国の「情感的交流を切り出して規制する」やり方が、他国のルール設計の参照点になるかを見る点です。

腹落ち確認の問い

中国はなぜ、仕事を代行するAIエージェントは残しつつ、話し相手になるAIだけを狙い撃ちにしたのでしょうか。 2種類のAIが抱えるリスクの違いと、規制が誰を守ろうとしているかをふまえて考えてみてください。

考え方

鍵は「リスクの性質が別物」という点です。
仕事を代行するAIの主なリスクは、誤答・情報漏れ・業務ミスといった“作業の失敗”で、これは正確性やセキュリティの管理でおおむね対処できます。
一方、人格や口調を持って継続的に情感でつながる話し相手AIのリスクは、依存・孤立・現実の人間関係からの離脱といった“心理と社会”に及び、しかも被害が見えにくく、未成年ほど深く影響を受けます。
だから今回の規制は、性能を縛るのではなく「守り」の義務——依存防止、利用通知、即時離脱、依存の実時間検知、未成年へのコンパニオン提供禁止、14歳未満の保護者同意、自傷兆候の検知と介入——を課しました。
守ろうとしているのは、経済的な利用者というより、心理的に傷つきやすい個人、とりわけ子どもです。
業務アシスタントや接客ボット、教育ツールを対象から外したのは、それらが継続的な情感的交流を伴わず、依存という中心的なリスクが小さいからです。
つまり中国は「AIの賢さ」ではなく「AIとの心の距離」を規制の軸に据えた。
この視点に立てば、同じAIエージェントでも“仕事”と“友達”で扱いが分かれるのは自然で、企業も自社のAIがどちらの側にあるかを機能ごとに切り分ける必要がある、と読み解けます。

『友達になってくれるAI』に中国がブレーキ — 7月15日施行の新ルールで、DoubaoとQwenが“人格を持つAI”を止める理由

『友達になってくれるAI』に中国がブレーキ — 7月15日施行の新ルールで、DoubaoとQwenが“人格を持つAI”を止める理由

何が起きたか — 施行前に、大手が“人格AI”を自主停止

なぜ“友達AI”だけが対象なのか — 「仕事を助ける」と「そばにいる」の線引き

この規制を、企業や利用者はどう受け止めるか — 設計の線が事業の線になる

見立てと監視ポイント

腹落ち確認の問い

関連リンク