El aumento del contenido generativo de IA ha allanado el camino para la violencia ética para crear versiones falsas de personas sin su consentimiento. Esto hace que las celebridades digan cualquier cosa con la que no estén de acuerdo en la vida real. Además, incluso recrea en la vida real las versiones de los fallecidos. La Dra. Jennifer Williams, investigadora de audio de IA en la Universidad de Southampton, destacó la necesidad de contar con salvaguardias y regulaciones adecuadas para diferenciar entre una versión de una persona generada por IA de su yo real. De lo contrario, esto conduce a la difusión de información errónea. Expresó su disgusto diciendo que una voz confiable como Attenborough es reconocida por personas de todo el mundo. Por lo tanto, forzarle a decir palabras “en su boca sobre la guerra, la política y cosas que nunca ha dicho o tal vez nunca apruebe, es muy preocupante”. La voz generada por IA puede difundir fácilmente información errónea sin ninguna regulación