MeetingTV ha intentato una causa contro Palo Alto Networks e la sua controllata Koi Security per un post sul blog che, secondo la startup, contiene false accuse generate da un sistema di intelligenza artificiale. Il post in questione collegava MeetingTV a una campagna di spionaggio cinese, sostenendo che il servizio Zoomcorder fosse utilizzato da un gruppo criminale informatico chiamato DarkSpectre. La causa sostiene che Koi si sia affidata in modo improprio alla propria piattaforma analitica Wings, la quale ha prodotto collegamenti inesistenti tra MeetingTV e attività illecite, senza un'adeguata verifica umana.
Le accuse infondate danneggiano la reputazione della startup
Secondo i documenti del tribunale, Koi Security non ha contattato MeetingTV prima di pubblicare il rapporto, né ha offerto l'opportunità di chiarire la situazione. Dopo la pubblicazione, diverse aziende di sicurezza e fornitori di servizi hanno bloccato i domini di MeetingTV, classificandoli come infrastrutture dannose. Ciò ha compromesso l'accesso ai servizi della startup e danneggiato la sua reputazione tra clienti e partner. Il fondatore di MeetingTV, Michael Robertson, ha dichiarato che il rapporto si basava su informazioni apparentemente generate da uno strumento AI senza sufficiente verifica umana.
Sponsored Protocol
La piattaforma Wings al centro della disputa
La causa cita che "le false attribuzioni sono state il prodotto diretto dell'affidamento non supervisionato di Koi" alla piattaforma Wings. Il rapporto contestato collegava il servizio Zoomcorder a una campagna che coinvolgeva un'estensione del browser chiamata Twitter X Video Downloader. Tuttavia, MeetingTV sostiene che tale estensione non esisteva e che Koi non ha fornito prove a sostegno della connessione tecnica. La startup afferma che questo elemento mancante costituiva il fondamento dell'argomento di Koi per collegare MeetingTV alla più ampia campagna malware.
Sponsored Protocol
Koi Security ha successivamente rimosso i riferimenti a Zoomcorder dal rapporto, ma MeetingTV sostiene che il danno è continuato. Palo Alto Networks, che ha acquisito Koi ad aprile, ha riconosciuto la causa, difendendo il processo di ricerca di Koi e affermando che il lavoro riflette gli sforzi per identificare le minacce. Tuttavia, MeetingTV sostiene che l'analisi di sicurezza automatizzata richiede una supervisione più rigorosa prima che le conclusioni vengano condivise pubblicamente.
Le preoccupazioni più ampie sui rapporti di sicurezza generati dall'IA
I sistemi di intelligenza artificiale producono già informazioni errate, e molti avvertono gli utenti di questa possibilità. Tuttavia, i loro output non dovrebbero mai essere presentati come fatti verificati. I ricercatori di sicurezza fanno sempre più affidamento su strumenti automatizzati per elaborare grandi volumi di dati, ma la verifica di tali conclusioni rimane una sfida persistente e irrisolta. Se le affermazioni di MeetingTV dovessero reggere allo scrutinio giudiziario, questa disputa potrebbe portare a un esame più attento di come vengono prodotti e revisionati i rapporti di minaccia generati dall'IA. Il consiglio è semplice: le conclusioni dell'analisi assistita dall'IA dovrebbero essere meticolosamente verificate, specialmente quando gli errori potrebbero causare gravi danni a un individuo o a un'azienda.
Sponsored Protocol
Per un esempio di come gli strumenti AI possano essere fonte di controversie, si veda la recente chiusura di ChatGPT Atlas da parte di OpenAI (OpenAI chiude ChatGPT Atlas. Le alternative AI browser per Mac crescono).
