TikTok: rilievi UE sul feed, rischio multa fino al 6%

La Commissione europea ha concluso in via preliminare che il sistema di raccomandazione di TikTok potrebbe violare il Digital Services Act (DSA), il regolamento europeo sui servizi digitali. La contestazione riguarda il feed «Per te» e la capacità delle misure adottate dalla piattaforma di contenere i rischi della distribuzione ripetuta di contenuti potenzialmente dannosi. Non è una decisione definitiva: TikTok può ancora esaminare il fascicolo e presentare osservazioni, mentre l’eventuale sanzione potrà arrivare fino al 6% del fatturato annuo mondiale.

Il punto rilevante non è soltanto finanziario. Bruxelles mette in discussione il modo in cui un sistema di raccomandazione interpreta l’attenzione degli utenti e la trasforma in ulteriori suggerimenti, soprattutto quando sono coinvolti minori o persone vulnerabili. La questione operativa diventa quindi verificare se i controlli disponibili cambino davvero il comportamento dell’algoritmo, non semplicemente se esista un pulsante per esprimere dissenso.

TikTok e DSA: la contestazione riguarda la distribuzione

Il procedimento formale, aperto nel febbraio 2024, riguarda in particolare la valutazione dei rischi generati dal sistema di raccomandazione e l’efficacia delle contromisure. Secondo la Commissione, gli strumenti introdotti da TikTok, tra cui «Non mi interessa» e i meccanismi di diversificazione dei contenuti, non sarebbero sufficienti a impedire percorsi di esposizione ripetuta problematici.

Questo distingue il caso da una controversia sulla sola rimozione di materiale illegale. Contenuti relativi al dimagrimento, all’immagine corporea o alla salute mentale non sono necessariamente illeciti e non devono essere automaticamente eliminati. La contestazione investe anche la loro distribuzione: quale contenuto viene suggerito, a quale utente, con quale frequenza e dopo quali segnali di interesse o rifiuto.

Non si può ancora parlare di un precedente giuridico consolidato. I rilievi preliminari indicano però una direzione regolatoria: la disponibilità di strumenti di controllo non basta, se la loro efficacia nel mitigare i rischi non è dimostrabile. Il possibile effetto del procedimento va quindi oltre il catalogo dei contenuti e raggiunge la progettazione del prodotto.

Il «rabbit hole»: quando l’attenzione alimenta il feed

L’effetto «rabbit hole» descrive una sequenza nella quale le interazioni con una categoria di video favoriscono ulteriori raccomandazioni simili, restringendo progressivamente la varietà del feed. Tra i segnali considerati figurano i video guardati, il tempo di visualizzazione e azioni esplicite come i «Mi piace». Ogni nuova esposizione può produrre altri segnali che alimentano il ciclo successivo.

Il problema tecnico è che il tempo trascorso davanti a un contenuto non equivale necessariamente a una preferenza consapevole. Un sistema che lo usa come indicatore di interesse può continuare a proporre materiale dello stesso tipo anche quando l’esperienza non corrisponde a ciò che l’utente desidera ricevere. Le fonti disponibili riferiscono, inoltre, che il tempo di visualizzazione può continuare a influenzare i suggerimenti anche dopo la selezione di «Non mi interessa».

Questo non dimostra che il comando venga sempre ignorato, né permette di ricostruire i pesi del modello. Evidenzia però il nodo della contestazione: un segnale comportamentale implicito può conservare influenza nonostante una preferenza esplicita contraria. La presenza del controllo nell’interfaccia non ne dimostra, da sola, l’efficacia nel sistema di ranking.

Rischi per gli utenti ed evidenze: cosa sostiene l’indagine

La Commissione ritiene che il meccanismo possa amplificare l’esposizione a contenuti su tristezza, isolamento, perdita di peso e immagine corporea. I rischi indicati riguardano soprattutto minori e adulti vulnerabili e comprendono maggiore ansia o tristezza, minore autostima, insoddisfazione corporea e possibile peggioramento di condizioni psicologiche o disturbi alimentari preesistenti. Sono rischi contestati, non effetti automaticamente attribuibili a ogni sessione sulla piattaforma.

L’indagine ha esaminato le valutazioni dei rischi preparate da TikTok, documenti e dati interni, risposte alle richieste di informazioni e letteratura scientifica. La Commissione ha inoltre ascoltato esperti di sistemi di raccomandazione, psicologia e psichiatria, con la collaborazione dell’autorità irlandese Coimisiún na Meán. Il perimetro descritto combina quindi elementi sul funzionamento della piattaforma e conoscenze sui possibili effetti dell’esposizione.

La sintesi disponibile non consente tuttavia di verificare nel dettaglio campionamento, durata delle osservazioni, differenze tra gruppi di utenti o dimensione degli effetti. Non permette quindi di quantificare quanto una specifica modifica ridurrebbe il rischio. La distinzione è essenziale: documentare un comportamento del feed, stimare la sua diffusione e dimostrare un danno causale sono passaggi diversi.

Le modifiche richieste investono ranking e controlli

Le indicazioni attribuite alla Commissione riguardano una revisione del feed «Per te»: maggiore peso alle preferenze esplicite, riduzione o disabilitazione del ruolo del tempo di visualizzazione, controlli più accessibili e verifiche regolari del comportamento dell’algoritmo. Si tratta di interventi richiesti nel contesto dei rilievi preliminari, non di specifiche tecniche definitive già imposte da una decisione conclusiva.

Modificarne l’implementazione non significa soltanto spostare un pulsante. Dare più peso a «Non mi interessa» richiede che quel segnale incida sulle raccomandazioni successive; ridimensionare il tempo di visualizzazione modifica invece uno degli input usati per selezionare i contenuti. Le verifiche dovrebbero distinguere tra il corretto funzionamento del comando e la sua capacità di interrompere una sequenza di esposizione problematica.

Il collo di bottiglia si sposta così dalla disponibilità di una funzione alla dimostrazione dei suoi risultati. Non sono documentati costi, tempi di sviluppo o conseguenze economiche delle modifiche richieste. Sarebbe quindi prematuro stimare un impatto sui ricavi o sulle prestazioni del servizio: il lavoro da validare riguarda l’efficacia della mitigazione e la sua persistenza nel tempo.

La replica di TikTok e il significato della possibile multa

TikTok respinge le accuse. Un portavoce ha definito le dichiarazioni della Commissione «sostanzialmente inesatte», sostenendo che travisino l’architettura della piattaforma e il suo impegno per la sicurezza. La società rivendica inoltre strumenti di controllo diretti e intuitivi. È una contestazione sul merito, che dovrà essere valutata insieme alle osservazioni e ai documenti del procedimento.

Sarà consultato anche il Comitato europeo per i servizi digitali. Se i rilievi saranno confermati, la Commissione potrà adottare una decisione di non conformità, richiedere modifiche e imporre una sanzione fino al 6% del fatturato annuo mondiale. È un massimale, non una multa già determinata. L’indagine separata sugli algoritmi di Facebook e Instagram mostra inoltre che l’attenzione regolatoria non riguarda soltanto TikTok, senza dimostrare identità di contestazioni o risultati.

L’impatto immediato riguarda la progettazione del feed, la valutazione dei rischi e le prove dell’efficacia dei controlli. Resta irrisolto quali modifiche saranno considerate sufficienti e come verranno validate. La prossima decisione dipenderà dal contraddittorio e dalle evidenze: non basta dimostrare che l’utente possa esprimere una preferenza, occorre verificare quanto quella preferenza cambi ciò che riceve.