Padre Mike Schmitz, prete cattolico e podcaster, rivolgersi alla sua congregazione A novembre YouTube ha superato 1,2 milioni di abbonati e ha pronunciato un sermone insolito. Schmitz diceva che non ci si poteva sempre fidare delle parole che uscivano dalla sua bocca perché a volte non erano realmente le sue parole – o la sua bocca. Schmitz è diventato il bersaglio di una truffa di imitazione generata dall’intelligenza artificiale.
“Sei osservato da un essere umano demoniaco”, ha detto il falso Schmitz in un video, mentre il vero Schmitz indossava una giacca LL Bean nei suoi annunci di servizio pubblico. “Bisogna agire in fretta, perché sono rimasti pochissimi posti per pregare”, ha detto un altro finto Schmitz, con una clessidra incombente dietro di lui. “E il prossimo viaggio sarà tra quattro mesi.” Il falso Schmitz sembrava un po’ robotico mentre esortava gli spettatori a fare clic sul collegamento e ottenere la loro benedizione prima che fosse troppo tardi.
“Posso guardarli e dire ‘È ridicolo, non lo direi mai'”, ha detto il vero Schmitz, che vive a Duluth, nel Minnesota. Il suo video commentato. “Ma la gente non può necessariamente dirlo. È un problema. È davvero un grosso problema.”
Sui veri video di Schmitz, alcuni dei commenti più importanti dei suoi follower hanno affermato di aver visto altre famose figure cattoliche, incluso il Papa, impersonificate attraverso i video dell’IA. Questo perché i pastori sono diventati obiettivi estremamente popolari per le truffe basate sull’intelligenza artificiale e altri media ingannevoli, ha affermato l’esperta di sicurezza informatica Rachel Tobac, CEO di SocialProof Security.
“Se usi TikTok o Reels, potrebbero aver visualizzato la tua pagina For You”, ha detto Tobac. “Questa persona sembrava un pastore, con tutti i vestiti addosso, in piedi sul pulpito o sul palco, o come vuoi chiamarlo, e sembrava parlare alla loro congregazione in un modo molto appassionato.”
parroco e prete dentro BirminghamAlabama, porto francoNew York e Fort LauderdaleLo stato della Florida ha messo in guardia i propri follower dalle truffe dell’intelligenza artificiale che li impersonificano sotto forma di messaggi privati, telefonate e deepfake. Alan Beauchamp, un pastore degli Ozarks, ha detto il suo account Facebook hackeratogli hacker hanno pubblicato un falso certificato di transazione di criptovaluta, probabilmente generato dall’intelligenza artificiale, recante il nome di Beauchamp e una didascalia che invita i suoi fedeli a unirsi a lui. una megachiesa nelle Filippine segnalazione ricevuta Un deepfake con protagonista un prete. Una chiesa evangelica del Nebraska emette un “avviso di truffa” tramite intelligenza artificiale su Facebookun fedele ha pubblicato nei commenti uno screenshot di un messaggio di testo presumibilmente proveniente da uno dei suoi pastori.
Non aiuta il fatto che molti pastori e ministri con un ampio seguito online stiano effettivamente sollecitando donazioni e vendendo cose, ma non le stesse cose che vendono i loro imitatori di intelligenza artificiale. Con l’aiuto dei social media, gli esperti religiosi sono in grado di raggiungere seguaci ben oltre le loro comunità, ma la proliferazione di contenuti che presentano le loro sembianze e le loro voci offre anche ottime opportunità per i truffatori che sfruttano gli strumenti di intelligenza artificiale generativa.
“Ricevi chiamate che sembrano quelle di un pastore o di un membro del consiglio, qualcuno che è in onda ogni settimana, e la sua voce può essere campionata e inserita nell’intelligenza artificiale”, ha detto in un rapporto un membro di ChurchTrac, una società di software per la gestione delle chiese con sede in Florida. Video di Youtube Avvertimento sull’aumento delle truffe basate sull’intelligenza artificiale contro le chiese. “I truffatori possono usare questa voce per chiamare la chiesa e dire ‘Ehi, puoi trasferire questi soldi su questo conto?'”
