La próxima función de Zoom de avatares de IA para hablar en reuniones también puede tener posibilidades de falsificaciones profundas

Los usuarios primero tendrán que grabar un vídeo de ellos mismos para replicarse en un clon. Una vez que se crea el clon de IA, los usuarios pueden simplemente escribir el contenido para el cual la versión de IA de ellos mismos generará el audio en la voz del usuario. El contenido se sincronizará con los labios en el video donde el clon digital habla.

Cabe señalar que esta función es sólo para Zoom Clips en los que los usuarios graban y envían mensajes cortos. En este caso, los usuarios tendrán su IA en las breves notas del vídeo.

Zoom tiene en cuenta la posibilidad de falsificaciones profundas

Dado que el contenido deep fake se está extendiendo en las redes sociales y muchas aplicaciones están tomando medidas para detectarlo, Zoom también ha reconocido la posibilidad de que esto ocurra.

"Continuaremos revisando y agregando salvaguardias según sea necesario en el futuro", dijo Hashim. "Empleamos (...) tecnología para hacer evidente cuándo se genera un clip con un avatar y (...) para ayudar a garantizar la integridad del contenido generado por avatar". Smita Hashim

La directora de productos de Zoom, Smita Hashim, dijo en la conferencia de prensa que la compañía manejará el riesgo con mucho cuidado con políticas de uso estrictas de autenticación avanzada y tecnología de marca de agua. Sin embargo, se espera que la empresa sea más específica en cuanto a la autenticación y las políticas cuando se acerque el lanzamiento.

Por otro lado, la marca de agua que aparece en la esquina, como se muestra en la maqueta de la función de avatar personalizado de Zoom, se puede eliminar fácilmente.

Este podría ser el primer paso hacia la visión del “gemelo AI” del CEO de Zoom

Este anuncio se alinea con la visión del CEO de Zoom, quien anteriormente mencionó su objetivo de tener una IA gemela con la revista Verge . Su ambición es permitir que el gemelo AI asista a las reuniones de los usuarios de Zoom.

Zoom también ha estado incorporando activamente asistencia de IA para aumentar la productividad de sus usuarios.

La función AI Avatar personalizada se lanzará en 2025 como complemento AI Companion de Zoom. La función tendrá un precio de 12 dólares al mes. Los usuarios que no se suscriban a esta función mientras tengan una suscripción paga de Zoom podrán usar los ajustes preestablecidos de avatares y voces en lugar de crear los suyos propios.