O próximo recurso do Zoom de avatares de IA para conversar em reuniões também pode ter uma possibilidade de falsificações profundas

Os usuários terão que primeiro gravar um vídeo de si mesmos, para se replicarem em um clone. Depois que o clone de IA for criado, os usuários poderão posteriormente digitar o conteúdo para o qual a própria versão de IA gerará o áudio na voz do usuário. O conteúdo será sincronizado com os lábios no vídeo onde o clone digital fala.

Ressalta-se que este recurso é apenas para Zoom Clips nos quais os usuários gravam e enviam mensagens curtas. Nesse caso, os usuários terão sua IA nas breves notas do vídeo.

Zoom está contabilizando a possibilidade de deep fakes

Como o aumento do conteúdo falso profundo está se espalhando nas redes sociais e muitos aplicativos estão tomando medidas para detectá-los, o Zoom também reconheceu essa possibilidade.

“Continuaremos a revisar e adicionar salvaguardas conforme necessário no futuro”, disse Hashim. “Empregamos (…) tecnologia para tornar óbvio quando um clipe é gerado com um avatar e (…) para ajudar a garantir a integridade do conteúdo gerado por avatar.” Smita Hashim

A diretora de produtos da Zoom, Smita Hashim, disse na coletiva de imprensa que a empresa lidará com o risco com muito cuidado com políticas de uso rigoroso de autenticação avançada e tecnologia de marca d'água. No entanto, espera-se que a empresa seja mais específica quanto à autenticação e às políticas quando o lançamento estiver próximo.

Por outro lado, a marca d'água que aparece no canto, conforme mostrado na maquete do recurso de avatar personalizado do Zoom, pode ser facilmente removida.

Este pode ser o primeiro passo em direção à visão “gêmea AI” do CEO da Zoom

Este anúncio está alinhado com a visão do CEO da Zoom, que mencionou anteriormente seu objetivo de IA gêmea com a revista Verge . Sua ambição é permitir que o gêmeo AI participe das reuniões dos usuários do Zoom.

O Zoom também tem incorporado ativamente assistência de IA para aumentar a produtividade de seus usuários.

O recurso AI Avatar personalizado será lançado em 2025 como complemento AI Companion do Zoom. O recurso custará US$ 12 por mês. Os usuários que não assinarem esse recurso enquanto tiverem uma assinatura paga do Zoom poderão usar as predefinições de avatares e vozes em vez de criar as suas próprias.