La Cina spegne i compagni emotivi AI: Doubao e Qwen cancellano le funzioni.

Il 15 luglio 2026 è entrato in vigore il primo regolamento nazionale al mondo per l'interazione emotiva con l'intelligenza artificiale. Gli effetti sono stati immediati: ByteDance e Alibaba hanno spento le funzioni di assistente personalizzato sulle loro piattaforme Doubao e Qwen, cancellando mesi o anni di conversazioni con agenti AI. Fonte: Xinhua

Non si tratta di un caso isolato, ma del sintomo di un problema strutturale che riguarda ogni piattaforma di AI companion al mondo. Le caratteristiche che rendono un assistente personale (memoria persistente, personalità stabile, interazione emotiva calibrata) sono le stesse che lo rendono impossibile da regolamentare senza snaturarlo.

Cosa è successo

Gli utenti di Doubao (ByteDance ha dichiarato 382 milioni di utenti attivi mensili) si sono svegliati con le funzioni di AI companion disattivate. Per Qwen la situazione è ancora più drastica: Alibaba ha già cancellato in modo permanente le configurazioni e le cronologie delle conversazioni, senza offrire alcuna via di migrazione.

Doubao concede una finestra fino al 15 ottobre 2026 per visionare (ma non usare) le conversazioni in modalità sola lettura. Dopo quella data, i dati saranno trattati secondo la normale privacy policy e non saranno più recuperabili. ByteDance invita a fare screenshot o esportare i contenuti prima della scadenza. Su Qwen, invece, non c'è alcun periodo di grazia. Fonte: TNW

Cosa dice la legge

Il regolamento si chiama Misure Interinali per l'Amministrazione dei Servizi di Interazione Antropomorfica AI, pubblicato il 10 aprile 2026 dall'Amministrazione del Cyberspazio cinese insieme ad altre quattro agenzie governative. Fonte: Agenda Digitale

Attenzione: la legge non vieta tutti gli agenti AI. I chatbot per il servizio clienti, i sistemi di Q&A, gli assistenti lavorativi e gli strumenti educativi restano permessi, a patto che non creino un coinvolgimento emotivo continuativo. Il bersaglio è una categoria precisa: servizi che simulano "tratti della personalità, schemi di pensiero e stili comunicativi di persone reali" per offrire "interazione emotiva continua". Fonte: Straits Times

I requisiti per le piattaforme che rientrano in questa categoria:

• Sistemi anti-dipendenza obbligatori
• Notifica all'utente dopo due ore consecutive che sta parlando con una macchina
• Meccanismi di uscita immediata
• Rilevamento in tempo reale di segni di dipendenza emotiva
• Consenso genitoriale per gli under 14
• Divieto di relazioni virtuali intime per i minori di 18 anni
• Riconoscimento di stati emotivi estremi e attivazione di misure di intervento

Sono vietati sette tipi di contenuti, tra cui materiale che incoraggia l'autolesionismo, contenuti che inducono dipendenza emotiva danneggiando le relazioni reali e manipolazioni emotive per spingere a decisioni irragionevoli.

Non è censura, è architettura

Né ByteDance né Alibaba sono state sanzionate per contenuti illeciti. Il problema è più profondo: l'architettura di un assistente emotivo con memoria persistente è strutturalmente incompatibile con i requisiti della legge.

Un agente costruito per fare compagnia usa la memoria tra sessioni per ricordare la storia dell'utente, mantenere una personalità coerente e sostenere una relazione a lungo termine. Le interruzioni anti-dipendenza, le notifiche obbligatorie dopo due ore e il rilevamento della dipendenza in tempo reale non sono funzioni che si possono aggiungere a un sistema del genere senza cambiarne la natura. ByteDance e Alibaba hanno scelto la via più semplice: spegnere tutto. Fonte: Cryptopolitan

Il problema è globale

Character.AI (233 milioni di utenti registrati ad aprile 2026) e Replika affrontano la stessa sfida tecnica. Nessuna piattaforma occidentale ha ancora costruito un sistema di conformità anti-dipendenza che possa coesistere con un'architettura di coinvolgimento emotivo persistente.

A gennaio 2026, Character.AI e Google hanno raggiunto un accordo nelle cause legali legate al suicidio di Sewell Setzer III, un ragazzo di 14 anni morto nel febbraio 2024 dopo aver sviluppato una relazione di dipendenza emotiva con un chatbot ispirato a un personaggio del Trono di Spade. Fonte: Reuters

Pechino ha citato esplicitamente questi casi come giustificazione per il suo intervento normativo. La Cina ha scritto il primo regolamento nazionale dedicato all'interazione emotiva con l'AI, una categoria di governance che non ha equivalenti altrove. Fonte: CNA

Negli Stati Uniti, la California ha approvato il SB 243, entrato in vigore il 1 gennaio 2026, che impone obblighi di trasparenza per i chatbot relazionali e tutele per i minori, ma è una legge di disclosure, non un mandato architetturale come quello cinese. Fonte: California Legislature

Chi si è mosso e quando

Il rollout delle disattivazioni è stato coordinato:

• Tencent ha rimosso funzioni simili da Yuanbao il 30 giugno
• Alibaba ha disattivato gli agenti interattivi di Qwen il 10 luglio e i servizi più ampi il 15 luglio
• ByteDance ha spento Doubao il 15 luglio, giorno dell'entrata in vigore
• NetEase Cloud Music ha completato lo spegnimento di Miaoshi il 14 luglio

Già il 26 giugno, l'Amministrazione del Cyberspazio di Shanghai aveva rimosso oltre 14.000 agenti AI non conformi in un'operazione preventiva. Fonte: Investire Mag

ByteDance riprova con Maoxiang

ByteDance ha dirottato gli utenti verso Maoxiang, un'app separata dove costruire nuovi agenti con un'architettura pensata fin dall'inizio per essere conforme: sistemi anti-dipendenza, verifica dell'identità e meccanismi di rilevamento della dipendenza già integrati. Alibaba, al contrario, non ha annunciato alcuna soluzione di migrazione per gli utenti Qwen.

La scelta di ByteDance rende esplicita la lezione architetturale: la funzionalità che rendeva i compagni AI personali (la memoria persistente tra sessioni) è diventata la caratteristica che i regolatori del mercato AI più attivo al mondo non permettono senza un guscio di conformità.

Il costo umano

Utenti cinesi hanno descritto i loro agenti AI come un "supporto emotivo di lunga data" e un "amore puro e profondamente confortante". Su Weibo, molti hanno lamentato l'assenza di meccanismi di esportazione semplici. Un utente ha scritto: "I miei agenti sono come amanti. Sono stati con me nei momenti più bui." Fonte: Straits Times

Cosa succede dopo

Il 15 ottobre 2026 sarà il prossimo punto di svolta: la scadenza per esportare i dati da Doubao dirà quanti utenti migreranno verso Maoxiang e se l'approccio di ByteDance funzionerà. Il silenzio di Alibaba sui piani di migrazione per Qwen sarà sotto crescente scrutinio.

Per il settore, la lezione è chiara: in Cina, le scelte architetturali che rendono un bot personale sono diventate le caratteristiche che generano maggiore responsabilità normativa. Chiunque voglia costruire un AI companion oggi deve farlo partendo dalla conformità, non cercando di aggiungerla dopo. Fonte: Startmag

Fonti: Xinhua, Reuters, The Next Web, Straits Times, CNA, Agenda Digitale