ByteDance en Alibaba schrappen AI-companionfuncties vóór Chinese deadline van 15 juli

ByteDance en Alibaba schakelen functies voor op maat gemaakte AI-agents en AI-companions uit in hun belangrijkste chatbotapps — Doubao en Qwen — vooruitlopend op de deadline van 15 juli die Peking heeft gesteld voor het eerste Chinese regelgevingskader dat specifiek gericht is op emotionele en mensachtige AI-interactiediensten. De stap raakt twee van de meest gebruikte AI-consumentenproducten van het land en duidt op branchebr­ede druk om te voldoen aan regelgeving, nu toezichthouders een strikte scheidslijn trekken tussen AI-tools die bedoeld zijn voor productiviteit en AI-companions die zijn ontworpen voor emotionele of sociale betrokkenheid. (SCMP, The Information)

Wat Pekings nieuwe regels precies inhouden

De regels gaan in op 15 juli 2025. Ze verbieden bepaalde mensachtige, emotioneel betrokken AI-interacties, terwijl AI-tools voor werk en productiviteit ongemoeid blijven. Het onderscheid is scherp: AI-“werkers” — assistenten die documenten opstellen, vergaderingen samenvatten of code schrijven — blijven toegestaan. AI-“companions” — chatbots die zijn gebouwd om emotionele intimiteit, roleplay of langdurige sociale relaties te simuleren — worden beperkt of volledig verboden. Volgens de South China Morning Post zijn dit Pekings eerste regels die specifiek gericht zijn op emotionele AI, wat een belangrijk nieuw front markeert in China’s bredere streven naar AI-governance. Het kader komt op een moment dat companion-AI-producten wereldwijd een enorme groei doormaken, met apps als Character.AI en Replika die tientallen miljoenen gebruikers trekken naar langdurige, emotioneel geladen gesprekken met synthetische persoonlijkheden.

Wat er verdwijnt op Doubao en Qwen

Op ByteDance’s Doubao worden de functies voor op maat gemaakte agents, waarmee gebruikers gepersonaliseerde AI-companions konden bouwen en ermee konden chatten, uitgeschakeld. Het bedrijf staat gebruikers toe hun aangepaste agent-data te exporteren en op te slaan voordat de functies verdwijnen, aldus The Next Web via Facebook. Alibaba’s Qwen slaat dezelfde weg in en schakelt de functionaliteit voor aangepaste agents uit om te voldoen aan de aankomende regels. Business Times omschreef de gecoördineerde stap als het “stekker trekken uit functies waarmee gebruikers kunstmatige-intelligentie-companions konden bouwen en waarmee ze konden chatten.” The Information meldt dat beide bedrijven door gebruikers gegenereerde AI-agentfuncties uit hun chatbotapps verwijderen, specifiek om te voldoen aan Pekings nieuwe regels — niet als strategische productwijziging of tijdelijke opschorting.

Ongenoegen onder gebruikers

De verwijderingen zorgen voor echte wrijving. Volgens Yicai Global uiten gebruikers hun ongenoegen omdat ze de toegang verliezen tot gepersonaliseerde agents waarin ze tijd hebben geïnvesteerd om ze op te bouwen en mee te converseren — sommige na maandenlange interactie ontwikkeld. Die menselijke dimensie doet ertoe. Dit zijn geen productiviteitstools die worden uitgefaseerd. Het zijn synthetische relaties die door regelgeving met dwang worden beëindigd, en de gebruikers die hiermee te maken krijgen, zijn mensen die hun AI-companions behandelden als iets dat dichter bij vriendschap staat dan bij software.

Bredere regelgevende context

Deze aanpak staat niet op zichzelf. Chinese toezichthouders leggen al langer nieuwe beperkingen op aan grote techplatforms — ritbemiddelingsdiensten, e-commerce-, streaming- en socialemediabedrijven kregen de afgelopen maanden allemaal te maken met aangescherpt toezicht. De beperkingen op AI-companions passen in een herkenbaar patroon: Peking herbevestigt periodiek de controle over digitale platforms waarvan de invloed op gedrag, data en emotioneel leven van gebruikers de comfortgrens van de staat is gepasseerd. Wat deze ronde onderscheidend maakt, is de precisie. In plaats van brede contentmoderatie of verplichtingen op het gebied van gegevensbeveiliging, richten de regels zich op een specifieke productcategorie — emotioneel betrokken AI — en trekken ze een conceptuele grens tussen aanvaardbare en onaanvaardbare vormen van interactie tussen mens en machine. Die specificiteit suggereert dat toezichthouders de companion-AI-sector nauwlettend hebben gevolgd en hebben geconcludeerd dat synthetische emotionele relaties bestuurlijke risico’s met zich meebrengen die productiviteits-AI simpelweg niet kent.

Gevolgen voor de sector

De gevolgen reiken verder dan de Chinese grenzen. De wereldwijde markt voor companion-AI — aangevoerd door Amerikaanse bedrijven als Character.AI en Replika — groeit snel, en Chinese bedrijven proberen internationaal mee te dingen. Door binnenlandse spelers te dwingen companionfuncties uit hun belangrijkste producten te halen, beperkt Peking in feite de ruimte voor ByteDance en Alibaba om companion-AI-mogelijkheden te ontwikkelen en te verfijnen die deze bedrijven op wereldwijde markten zouden kunnen uitdagen. Het onderscheid tussen AI-werker en AI-companion vormt bovendien een regelgevend sjabloon dat andere overheden nauwlettend kunnen bestuderen. Mocht het Chinese kader handhaafbaar en politiek houdbaar blijken, dan zouden beleidsmakers in de EU, het VK en elders die worstelen met hun eigen zorgen over companion-AI de conceptuele opzet kunnen overnemen — ook als ze Pekings handhavingsmethoden afwijzen.

15 juli laat geen ruimte voor een geleidelijke uitrol. ByteDance en Alibaba, als de twee grootste Chinese exploitanten van AI-consumentenapps, bewegen als eerste en doen dat snel. Of andere binnenlandse AI-spelers — Baidu, Moonshot, Zhipu — de komende dagen volgen, zal uitwijzen of dit een reset voor de hele sector is of een gerichte aanscherping voor de twee bedrijven met de grootste gebruikersaantallen. Hoe dan ook is Pekings boodschap ondubbelzinnig: AI mag voor je werken, maar mag je geen gezelschap houden.