Los peligros de 'giblificar' tu selfie con chatgpt

Desde hace más de una semana, los usuarios han obstruido los servidores de Openai para usar su última actualización de ChatGPT que presentaba una herramienta de generación de imágenes que dio a luz una obsesión por Internet; Convirtiendo las selfies en ilustraciones al estilo Studio Gibli. 

Instagram, Reddit, Discord, Facebook, X, en todas partes está inundado de retratos generados por IA de parejas, casas, recuerdos de vacaciones e incluso eventos históricos. Pero cuando se tiene toda la diversión, ¿es seguro "giblificar" sus fotos? Algunos analistas te dicen que no. 

Existen serias preocupaciones sobre la infracción de derechos de autor , la privacidad de los datos y la ética de IA, pero con Ghibli, hay un problema principal: las prácticas de seguridad de datos.

Sam Altman y su equipo están bastante apretados sobre cómo han entrenado el chatbot para producir las imágenes de manera tan limpia y en cuestión de minutos. Los expertos en privacidad advierten que millones de personas sin saberlo están entregando sus datos biométricos a OpenAi, una compañía que ya ha sido llamada para sus prácticas de datos.

Todos están usando el arte chatgpt ghibli, así que es seguro, ¿verdad?

La semana pasada, Operai amplió sus capacidades de generación de imágenes en ChatGPT, lo que permite a los usuarios crear imágenes en una variedad de estilos artísticos. En lo que los internautas saltaron rápidamente fue el filtro de estilo Ghibli, que generó fotos y selfies comunes en ilustraciones similares a anime. 

El CEO de Operai, Sam Altman, el jefe de Tesla, Elon Musk, los superiores de Ripple publicado sus propias versiones de imágenes al estilo de Gibli en las redes sociales, por lo que todos pueden decir que es seguro.

Altman afirmó que las indicaciones de arte Gibli alcanzaron los recursos informáticos de la compañía con fuerza, admitiendo en una publicación del 27 de marzo en X que las GPU de OpenAi se estaban "derritiendo" bajo la demanda.

Es muy divertido ver a la gente amar las imágenes en chatgpt.

Pero nuestras GPU se están derritiendo.

Vamos a introducir temporalmente algunos límites de tasas mientras trabajamos para hacerlo más eficiente. ¡Ojalá no pase mucho tiempo!

Chatgpt Free Tier obtendrá 3 generaciones por día pronto.

— Sam Altman (@sama) 27 de marzo de 2025

La compañía reveló que la tendencia de Ghibli sola agregó 1 millón de nuevos registros. Esta explosión de interés es exactamente lo que Operai espera: más usuarios significa más datos, lo que finalmente beneficia su capacitación de IA. ¿Eso es a expensas de los datos personales? Bueno, es difícil decir que sí, pero obviamente no somos lo suficientemente ingenuos como para decir que no.

Algunos usuarios experimentaron con recreaciones al estilo de Ghibli de momentos históricos, como el asesinato de John F. Kennedy y el ataque terrorista del 11 de septiembre. Incluso la Casa Blanca se involucró, publicando una versión generada por IA de una imagen bien conocida de una mujer que llora fue arrestada por un oficial de hielo. 

https://t.co/pvdinmshxs pic.twitter.com/bw5yuci2xl

- La Casa Blanca (@WhiteBouse) 27 de marzo de 2025

Es una tendencia divertida, y no vamos a ser los que apaguen el fuego cuando todos buscan una razón para sonreír. Pero alterar y diseñar imágenes históricas es una pendiente resbaladiza para abrir las compuertas de supremacistas sin control y tendencias vulgares de desarrollo de obras de arte.  

¿Es ético el arte generado por IA?

Los modelos de IA están capacitados en grandes cantidades de datos raspados de Internet, y eso más defiincluye obras con derechos de autor. La mayor preocupación para los artistas y creadores es que AI se hará cargo de sus trabajos. Si un modelo puede producir una salida similar a la de un creador después de obtener ilegalmente una copia del trabajo que realiza, todo es cuesta abajo desde allí.

"Los autores y los artistas se están enojando cada vez más con el robo a gran escala que está sucediendo", hizo señas que Ed Newton-Rex, CEO de la compañía de capacitación sin fines de lucro AI de AI, bastante entrenada.

Studio Ghibli nunca ha autorizado el uso de su estilo artístico para el contenido generado por IA, dado el desdén bien documentado del cofundador Hayao Miyazaki para la IA en el arte. 

En una entrevista ahora famosa de 2016, Miyazaki reaccionó a la animación generada por la IA con disgusto, diciendo: "Quien crea esto no tiene idea de qué dolor es el dolor. Estoy completamentetron... siento que esto es un insulto para la vida misma".

La tendencia al estilo Ghibli es precisamente el tipo de mercantilización artística impulsada por la IA que detestaba. Entonces, ¿por qué OpenAi parece relajado en sus políticas en torno a generar imágenes en estilos artísticos? Simplemente están abriendo las compuertas para las recreaciones de IA de obras con derechos de autor.

Riesgos de privacidad de 'giblificar' tu selfie

Antes de obtener una selfie giblificado, debes subir dichas fotos personales para chatgpt. ¿Ha considerado que podría estar sin saberlo OpenAi el derecho de usar ambas imágenes para futuras capacitación en modelos? Si ese es el caso, ¿hay una forma explícita de optar por no participar? Apenas duda que la mayoría de la gente pensara en todo esto.

Rachel Tobac, CEO de Socialproof Security, dijo que la mayoría de las personas pueden asumir que sus imágenes cargadas desaparecen después de su uso, pero ChatGPT puede retenerlas e incorporarlas en futuros modelos de IA. "Si quieres retener la propiedad de una foto, no es el camino a seguir", supuso.

El 29 de marzo, a través de un hilo , Luiza Jarovsky, cofundadora de Aitechprivacy.com, explicó que según las leyes de datos europeas (específicamente el artículo 6.1.A del GDPR), los usuarios que cargan voluntariamente están dando consentimiento legal para OpenAi para procesarlas.

"Miles de personas ahora están cargando voluntariamente sus caras y fotos personales para Chatgpt. Como resultado, Operai está ganando acceso gratuito y fácil a muchos miles de caras nuevas para capacitar a sus modelos de IA", escribió.

Operai aún no ha hecho una declaración formal que aborde las preocupaciones de privacidad, pero insiste en que la privacidad y la seguridad se encuentran entre sus principales prioridades. El lunes, un portavoz de la compañía dijo que OpenAI minimiza la recopilación de información personal y no busca datos de usuarios privados para capacitar a sus modelos. 

También afirmaron que los usuarios pueden controlar cómo se usan sus datos a través de herramientas de autoservicio y pueden eliminar su contenido u optar por no recibir mejoras en el modelo.

Recopilación de datos: ¿Es verdad o falso?

Algunos internautas creen que la tendencia de Ghibli es "uno de los esquemas de recopilación de datos faciales más grandes y encubiertos de la historia". Otro advirtió que miles de millones de personas "sin saberlo habían iniciado sesión en sus cuentas, entregando involuntariamente sus datos de reconocimiento facial a los sistemas impulsados ​​por la IA".

Exactamente, ¿cómo la gente no se da cuenta de esto?
Están atrapados en nombre de una tendencia que renuncia a sus datos de reconocimiento facial a la IA sin siquiera pensar qué daño puede darles sobre ellos y lloran por la privacidad cada dos días.

- विक्रमokय शिवम चौहान (@chau_vik1947) 2 de abril de 2025

Aún así, no todos comparten esta preocupación. Un ingeniero cibernético en X retrasó los temores, alegando que los modelos de IA no almacenan datos de imágenes más allá del proceso de transformación inmediata. 

"La IA no almacena información de datos de imágenes a partir de ahora, por lo que las imágenes que utilizamos para Ghibli o cualquier otra transformación son seguras", escribieron. Recomendaron aclarar los archivos de caché como precaución adicional, pero refutó las afirmaciones de que AI podría volver a innovar imágenes de ingeniería a su forma original para usarlos en cualquiera de sus prácticas de capacitación.

AI no almacene la información de datos de imágenes a partir de ahora, por lo que las imágenes que utilizamos para Ghibli o cualquier otra transformación son seguras.

Todavía borra el caché para el lado más seguro.

También vimos muchos carretes diciendo que podemos revertir las imágenes para que no AI no cambiará a Ghibli a la imagen original. #Ghibli pic.twitter.com/fd0k9zvlqr

- Juhi Jain (@Juhijain199) 2 de abril de 2025

Otros teóricos dicen que la generación de imágenes de IA no es más invasiva que los servicios de almacenamiento en la nube existentes. "Es curioso cómo la gente se preocupa por que Gibli use mal nuestros datos, como si el almacenamiento en la nube que sostiene todas nuestras imágenes es más seguro. LOL", comentó un usuario.

La tendencia de las selfies "Ghiblified" es, debajo de la superficie, una burbuja de preocupaciones sobre la infracción de los derechos de autor, la ética de IA y la privacidad de los datos. Si ChatGPT conserva alguna de las fotos e información compartidas por los usuarios, todo lo que se necesita es solo una violación del servidor y un software de reversión de imágenes para su vida personal que se emitirá en Internet.

¿Vale la pena el frenesí del arte animado generado por IA? Tal vez sí, pero es mucho más seguro pensar dos veces sobre lo que comparte con cualquier chatbot.