I deepfake di TikTok sono realistici e inquietanti e corrono il rischio di vittimizzare nuovamente le famiglie delle vittime di omicidio.
TikTokUna delle AI ha generato deepfake di una vittima di omicidio infantile.
Il vero crimine è un argomento sempre più popolare oggi. Ma alcuni account su TikTok hanno portato l’interesse della società per il vero crimine a un livello inquietante creando video realistici generati dall’intelligenza artificiale delle vittime di omicidio – spesso bambini piccoli – e facendoli discutere di come sono stati uccisi.
“Sono piuttosto strani e inquietanti”, ha detto Paul Bleakley, assistente professore di giustizia penale all’Università di New Haven * Pietra rotolante*. “Sembrano progettati per innescare forti reazioni emotive, perché è il modo più sicuro per ottenere clic e Mi piace. È scomodo da guardare, ma penso che potrebbe essere questo il punto.
Account come @truestorynow e Nostalgia Narratives hanno decine di migliaia di follower e pubblicano video realistici di vittime di omicidio che descrivono con calma cosa è successo quando sono state assassinate. Alcuni mostrano famose vittime adulte, come George Floyd, ma molti raffigurano bambini piccoli.
“La nonna mi ha chiuso in un forno a 230 gradi quando avevo solo 21 mesi”, ha detto in una breve clip uno dei deepfake generati dall’intelligenza artificiale pubblicati su @truestorynow. Identificata come Rody Marie Floyd nella clip, la ragazza generata nel video racconta la vera storia di Royalty Marie Floyd, una bambina di 20 mesi che è stata accoltellata e poi bruciata in un forno dalla nonna nel 2018.
“Royalty Marie Floyd è stata la cosa migliore che mi sia mai capitata”, sua madre ha scritto su Facebook dopo la sua morte. “È la mia unica figlia. Il mio primo amore. La cosa più difficile che abbia mai dovuto affrontare nella mia vita. Il mio cuore è stato strappato dal mio petto.
Clip come quella di “Rody” hanno milioni di visualizzazioni su TikTok.
Un esperto di TikTok ha descritto le clip come “strane e inquietanti” e “scomode da guardare”.
Pietra rotolante ha riferito che account come Nostalgia Narratives affermano di non utilizzare foto reali delle vittime per generare i deepfake per “rispetto [for] la famiglia.” Tuttavia, l’utilizzo delle immagini è vietato anche su TikTok. Le linee guida della community della piattaforma vietano le rappresentazioni deepfake di privati o giovani.
Indipendentemente dal fatto che le foto siano reali o meno, la storia lo è. E esperti come Bleakley credono che contenuti come questo – usati senza il permesso della famiglia – alla fine feriscono i cari della vittima dell’omicidio.
“Qualcosa del genere ha un reale potenziale per rivittimizzare le persone che sono state vittime prima”, ha detto Bleakley Pietra rotolante. “Immagina di essere il genitore o il parente di uno di questi bambini in questi video di intelligenza artificiale. Vai online e con questa strana voce acuta, ecco un’immagine AI [based on] tuo figlio deceduto, entrando in dettagli molto cruenti su quello che gli è successo.
TikTokLe clip hanno il potenziale per rivittimizzare i cari della vittima di omicidio.
Pietra rotolante riferisce che, per il momento, video come questi sono completamente legali. Non esiste una legge federale che vieti esplicitamente immagini e video deepfake non consensuali. E sebbene le famiglie delle vittime di omicidio possano trovare sconvolgenti i deepfake, non c’è un chiaro ricorso legale da intraprendere.
Inoltre, le clip AI delle vittime di omicidio che appaiono su TikTok ora potrebbero solo peggiorare. COME Pietra rotolante note, nulla impedisce ai creatori di contenuti di ricreare i crimini utilizzando l’intelligenza artificiale, fino a ogni dettaglio macabro.
“Questa è sempre la domanda con qualsiasi nuovo sviluppo tecnologico”, ha detto Bleakley. “Dove si fermerà?”
TikTok ha agito per arginare l’ondata di deepfake delle vittime di omicidio. Pietra rotolante riferisce che @truestorynow, che aveva quasi 50.000 follower, è stato rimosso. Sulla piattaforma, tuttavia, altri deepfake sono ancora facili da trovare.
*Dopo aver letto degli inquietanti deepfake AI delle vittime di omicidio che hanno iniziato a diffondersi su TikTok, scopri la storia di Claire Miller, la star di TikTok che ha ucciso la sorella disabile. Oppure, guarda come gli utenti di TikTok in Pakistan avrebbero appiccato pericolosi incendi boschivi per creare video drammatici. *