生成式人工智能內容的興起爲道德暴力鋪平了道路,這些暴力可以在未經他人同意的情況下創建虛假版本的人。這使得名人說出了他們在現實生活中可能不同意的事情。此外,它甚至還重現了現實生活中已經去世的版本。 南安普頓大學人工智能音頻研究員詹妮弗·威廉姆斯博士強調,需要採取適當的保障措施和法規來區分人工智能生成的人與真實的自我。否則,就會導致錯誤信息的傳播。 她表示厭惡,稱像阿滕伯勒這樣值得信賴的聲音得到了世界各地人們的認可。因此,“在他嘴裏強行談論戰爭、政治以及他從未說過或可能永遠不會認可的事情,是非常令人擔憂的”。人工智能生成的語音可以在沒有任何監管的情況下輕鬆傳播錯誤信息