YouTube ha recentemente annunciato un aggiornamento significativo delle sue politiche per combattere l’uso di contenuti generati dall’intelligenza artificiale (AI) che ritraggono in modo realistico minori deceduti o vittime di eventi violenti. Questa mossa è stata innescata dall’uso preoccupante di tale tecnologia da parte di alcuni creatori di contenuti, in particolare nel genere del vero crimine, dove l’AI è stata utilizzata per ricreare le sembianze e le voci di bambini vittime di casi ad alto profilo, narrando dettagliati aspetti delle loro morti. Queste rappresentazioni hanno sollevato importanti preoccupazioni etiche, specialmente tra le famiglie delle vittime rappresentate nei video.
In risposta a queste preoccupazioni, YouTube ha deciso di rimuovere i contenuti che violano le nuove politiche e di imporre sanzioni ai creatori che infrangono queste regole. I trasgressori riceveranno un “colpo” che porterà alla rimozione del contenuto offensivo e imporrà restrizioni temporanee all’interazione dell’utente con la piattaforma, come il divieto di caricare nuovi video per una settimana. Violazioni ripetute entro un periodo di 90 giorni potrebbero portare a sanzioni più severe, inclusa la potenziale rimozione del canale da YouTube.
Oltre a questo, YouTube ha implementato politiche più rigorose riguardanti i cloni vocali AI di musicisti e ha introdotto linee guida più indulgenti per altri tipi di contenuti. Il cambiamento politico riflette la crescente necessità di regolamentare i contenuti generati dall’AI, soprattutto quando si tratta di argomenti sensibili come le vittime di crimini.
In parallelo a queste misure, YouTube ha anche annunciato piani per contrastare la disinformazione elettorale generata dall’AI, in vista delle elezioni presidenziali del 2024 negli Stati Uniti. La piattaforma si concentrerà sulla promozione di ciò che considera contenuti elettorali di alta qualità e prenderà misure contro i creatori che non rivelano in modo coerente contenuti alterati o sintetici. Questo fa parte di uno sforzo più ampio per combattere le operazioni di influenza coordinata e gli attacchi informatici supportati dal governo, che mirano a interferire con le elezioni.
Queste azioni dimostrano la dedizione di YouTube nel preservare l’integrità e la sicurezza dei suoi utenti, affrontando le sfide etiche e i rischi posti dall’evoluzione delle tecnologie AI nella creazione di contenuti.
