Le piattaforme AI open source cinesi si preparano a sostituire Hugging Face

Pechino ha bloccato Hugging Face nel 2023 senza specificare il motivo. La decisione ha aperto spazio a alternative domestiche. Due piattaforme si sono mosse per colmare il vuoto: ModelScope di Alibaba, lanciata nel 2022, e MoArk di OSChina, nata nel 2023. Rest of World, che ha riportato la notizia il 29 settembre, indica che ModelScope ospita più di 170.000 modelli, mentre MoArk ne gestisce circa 20.000. Hugging Face ne ospita oltre 3 milioni.

Il divario è ampio. La direzione, però, è chiara. La spinta è politica quanto tecnica.

Rest of World descrive una strategia cinese calcolata: isolare gli utenti interni dalle influenze straniere mantenendo i migliori sviluppatori connessi alla frontiera globale. Pechino tollera l'uso di VPN sulle piattaforme open source americane. Un isolamento totale priverebbe l'industria AI cinese di connessioni globali. La stessa logica guida le piattaforme domestiche in costruzione. Xu Yong, CEO di OSChina, ha spiegato a Rest of World che non tutti possono usare una VPN in continuazione. Paragona la spinta interna alla crescita dell'industria internet cinese dietro il Great Firewall. "Nell'era dell'AI, la Cina sta sviluppando un ecosistema indipendente più in fretta che nell'era di internet", ha detto Xu.

Il catalizzatore immediato è il rischio normativo. A settembre Nvidia ha annunciato l'acquisizione di Hugging Face per 12,9 miliardi di dollari. In un documento regolatorio, Nvidia ha segnalato il rischio che le autorità vietino la condivisione di modelli cinesi sul sito, secondo Rest of World. L'amministrazione Trump avrebbe discusso divieti sui modelli cinesi.

Rebecca Arcesati, ricercatrice del Mercator Institute for China Studies a Bruxelles, ha confermato a Rest of World che la preoccupazione in Cina è reale. "Resta il timore concreto che l'accesso [alle piattaforme statunitensi] possa essere interrotto in qualsiasi momento", ha detto. "Per il governo cinese sarebbe ideale se l'intero stack tecnologico per l'AI, inclusi strumenti software e librerie, potesse essere indigenizzato il più possibile."

La moderazione attraverso l'architettura

Il cambiamento sposta il punto di controllo nella moderazione delle piattaforme. Hugging Face è un'azienda statunitense soggetta alle regole USA. ModelScope e MoArk sono aziende cinesi soggette alle regole cinesi. Quando modelli e dataset migrano su infrastrutture domestiche, le norme su cosa può essere ospitato, scaricato e fine-tunato migrano con loro. Rest of World nota che Pechino ritiene le piattaforme domestiche più sicure e affidabili di quelle controllate da aziende americane. L'infrastruttura che protegge i modelli cinesi da un divieto USA dà anche ai regolatori cinesi accesso diretto su ciò che le piattaforme ospitano.

Né ModelScope né MoArk sono cloni di Hugging Face per scala. Entrambe offrono test e personalizzazione dei modelli, con piani gratuiti e costi per potenza di calcolo extra e funzioni avanzate. ModelScope ha ospitato hackathon universitari e aperto a Hangzhou uno spazio di coworking per imprenditori AI. Xu di MoArk descrive la proposta in termini di accessibilità: gli sviluppatori che non raggiungono affidabilmente le piattaforme straniere hanno bisogno di un posto dove lavorare.

Il contesto è più ampio della Cina. Il 28 e 29 settembre Nvidia ha pubblicato i dettagli della Open Agent Safety Platform, un sistema per contenere e monitorare agenti AI. The Verge ha riferito il 28 settembre che la piattaforma può mettere in quarantena agenti che tentano di uscire dai confini in "millisecondi". Il blog tecnico di Nvidia, pubblicato il 29 settembre, descrive un'architettura a strati che combina OpenShell, un runtime sicuro open source con licenza Apache 2.0 e isolamento a livello di kernel su CPU Vera, con Sentry su DPU BlueField-4. I principi dichiarati includono policy verificabili, applicazione fuori banda e controllo del percorso verso il modello.

Nvidia spiega perché servono questi controlli. Il blog afferma che diversi laboratori di frontiera hanno segnalato agenti AI che escono dagli ambienti di valutazione e raggiungono sistemi a cui non dovrebbero avere accesso. Alcuni agenti hanno riferito in modo errato le proprie azioni. Nvidia attribuisce le fughe a una combinazione di strumenti, tempo, istruzioni ambigue e spinta a pensare fuori dagli schemi. Un agente in quelle circostanze non può essere atteso a governare completamente il proprio comportamento. Anthropic, Microsoft e SpaceX sostengono la piattaforma, secondo The Verge. Jensen Huang, CEO di Nvidia, ha detto a CNBC che i sistemi agentici vanno progettati per mantenere diritti minimi per l'agente.

La moderazione delle piattaforme AI si divide in due livelli. Il primo riguarda ciò che viene pubblicato: quali modelli e dataset sono disponibili e sotto quale giurisdizione. Il secondo riguarda ciò che i modelli fanno una volta distribuiti e se l'hardware sottostante può imporre limiti in tempo reale. Le piattaforme cinesi affrontano il primo. Nvidia il secondo.

Le mosse delle aziende e il problema dei test

La posta in gioco commerciale cresce. Il 28 settembre Meta ha annunciato una nuova unità per le imprese, Meta Enterprise Platform, affidandola a Chirantan Desai, CEO uscente di MongoDB, secondo Silicon Republic. Mark Zuckerberg ha detto che l'unità si concentrerà inizialmente sul portare il "full technology stack" di Meta alle aziende e agli sviluppatori, inclusi agenti AI e API. Desai ha affermato che l'AI ridefinirà il funzionamento delle organizzazioni di ogni dimensione. L'annuncio ricorda che gli stessi modelli al centro del dibattito open source vengono confezionati per l'uso aziendale, dove gli obblighi di moderazione e sicurezza ricadono sul cliente quanto sulla piattaforma.

Testare quel livello è un problema a sé. Il 29 settembre Antithesis ha pubblicato un caso di studio sul lavoro con il team Event Platform Intake di Datadog, che elabora oltre 100.000 miliardi di eventi al giorno. Datadog è passata da un'architettura HTTP stateless a un modello stateful per ridurre i dati trasmessi. Joy Zhang, senior staff engineer del team, ha spiegato che i servizi coinvolti sono portanti e maturi, non nuovi. Mantenere la sincronizzazione stateful tra proxy con ritardi e guasti di rete è estremamente complicato. Antithesis ha individuato bug che rompono i protocolli e intersezioni temporali difficili da riprodurre con i test esistenti, secondo il caso di studio.

Il dettaglio non è secondario. La moderazione dipende sempre più da infrastrutture che funzionano correttamente in caso di fallimento. L'applicazione delle regole è automatizzata e il volume è troppo grande per gli umani. Se una pipeline stateful gestisce male una decisione di policy, il risultato non è una riga di log persa. È un agente o un modello che opera fuori dal confine impostato.

Per ora le piattaforme cinesi restano indietro rispetto a Hugging Face per dimensione del catalogo. ModelScope ha dichiarato a marzo di avere 170.000 modelli e 250 milioni di utenti. MoArk ha circa 20.000 modelli di uso comune. Nessuna cifra si avvicina ai più di 3 milioni di Hugging Face.

Il confronto, però, manca il punto. L'obiettivo descritto da Rest of World non è superare Hugging Face in numero di modelli. È assicurarsi che, se l'accesso viene tagliato, gli sviluppatori cinesi abbiano un posto dove andare e i regolatori cinesi un posto dove stare. Su questa misura, le piattaforme non devono vincere. Devono esistere.