Gravou deepfake com áudio de diretor da escola e foi detido pela falsificação com IA

Dazhon Darien, diretor de atletismo de uma escola secundária de Maryland, nos EUA, foi detido, após a partilha de uma gravação deepfake do diretor da escola que circulou na Internet, em particular na comunidade escolar norte-americana. As autoridades referem que este é um dos primeiros casos do género no país.

Os deepfakes utilizam a Inteligência artificial para gerar um vídeo ou áudio completamente novo, com o objetivo final de retratar algo que não ocorreu na realidade.

A gravação do deepfake imitava o diretor da escola, Eric Eiswert, a fazer comentários racistas e antissemitas. A gravação foi partilhada no Instagram em meados de janeiro, tendo sido amplamente partilhada, levando as pessoas a acreditar que era a voz de Eric Eiswert, diretor da Pikesville High School, nos subúrbios de Baltimore, refere a polícia em comunicado.

[related-post id=”377232″ post_type=”post” /]O áudio do deepfake incluía um discurso contra estudantes negros, o que levou Eiswert a ser inundado por ameaças, conforme o The New York Times.

“Acredita-se que o Sr. Darien, que era diretor de Atletismo na Pikesville High School, fez a gravação para retaliar contra o Sr. Eiswert que, na altura, investigava a potencial má gestão dos fundos da escola”, disse a polícia numa declaração partilhada online.

Dazhon Darien foi detido e enfrenta acusações que incluem perturbar o funcionamento da escola e perseguir o diretor da escola, avança o New York Times.

As deepfakes e desinformação geradas por Inteligência Artificial são ameaças que não devem ser desvalorizadas, disse já neste mês, a vice-presidente da Comissão Europeia para os Valores e Transparência.