Meta ha annunciato un nuovo strumento di rilevamento progettato per identificare immagini e video generati o modificati con i suoi modelli di intelligenza artificiale più recenti, in particolare Muse Image. L'azienda ha mostrato in anteprima uno strumento web-based che verifica la presenza di filigrane digitali invisibili applicate dal sistema Content Seal. Questo sistema di marcatura, descritto da Meta in un post sul blog, rimane intatto anche dopo operazioni di ritaglio, compressione, ridimensionamento o screenshot. L'obiettivo dichiarato è offrire agli utenti un modo iniziale per capire se un'immagine è stata realizzata con Meta AI.
Content Seal: una filigrana persistente ma proprietaria
Content Seal rappresenta un approccio in parte nuovo per Meta. La versione integrata in Muse Image è proprietaria, ma l'azienda ha precedentemente rilasciato versioni open-source di tecnologie simili. A differenza di alcune versioni precedenti di Meta AI, che aggiungevano un piccolo logo visibile nell'angolo in basso a destra, i nuovi modelli non includono filigrane visibili. Ciò significa che la rilevazione si basa esclusivamente sulla marcatura invisibile. Secondo Meta, Content Seal è progettato per resistere a manipolazioni comuni, garantendo che l'informazione sulla provenienza AI rimanga accessibile anche dopo editing aggressivi.
Sponsored Protocol
Limitazioni attuali del rilevatore: solo per Muse Image e soggetto a rate limit
Per ora, le capacità di rilevamento sono limitate alle immagini create o modificate con Muse Image. Meta ha dichiarato l'intenzione di espandere le filigrane Content Seal anche ai video generati o editati con AI, e sta lavorando a un modello separato per la generazione video chiamato Muse Video, in arrivo prossimamente. Nel test pratico, lo strumento web è riuscito a identificare correttamente le filigrane in immagini create interamente da AI e in immagini modificate, persino in screenshot. Tuttavia, lo stesso strumento non è stato in grado di riconoscere immagini provenienti da versioni precedenti dei modelli AI di Meta. Inoltre, lo strumento è soggetto a limiti di utilizzo giornalieri: dopo alcuni caricamenti, l'utente viene avvisato di aver raggiunto il limite massimo di verifiche consentite.
Sponsored Protocol
Incompatibilità con altri sistemi di watermarking e assenza nell'app Meta AI
Un aspetto critico è che Content Seal non è compatibile con SynthID (sviluppato da Google DeepMind) né con C2PA Content Credentials, due metodi di marcatura consolidati usati da altre aziende. Questa mancanza di interoperabilità potrebbe limitare l'adozione su larga scala. Inoltre, il nuovo rilevatore non è ancora integrato nell'app Meta AI: quando è stato chiesto all'assistente AI di valutare un'immagine che lo strumento web aveva identificato come generata da AI, l'assistente ha risposto di non avere la capacità di verificare. Ciò evidenzia una frammentazione interna tra i vari strumenti di Meta.
L'azienda ha già affrontato critiche in passato per l'etichettatura incoerente dei contenuti AI. Il Consiglio di Sorveglianza di Meta aveva espresso preoccupazione per l'implementazione non uniforme delle filigrane digitali sui contenuti creati dai propri strumenti. Con questo nuovo rilevatore, Meta cerca di rispondere a tali critiche, ma le limitazioni tecniche attuali potrebbero non bastare a garantire un controllo affidabile.
Sponsored Protocol
Per un approfondimento sulle implicazioni economiche dell'AI, si veda l'articolo correlato Il piano di Sam Altman per distribuire la ricchezza dell'AI. Inoltre, per comprendere come i contenuti generati dall'AI influenzano il marketing, leggi Facebook Marketing Organico e a Pagamento nel 2026.
Secondo Wikipedia, i sistemi di credenziali dei contenuti come C2PA stanno diventando uno standard di settore per tracciare la provenienza dei media. Meta, con la scelta di un formato proprietario, rischia di isolarsi in un ecosistema dove l'interoperabilità è sempre più richiesta.
