Fiscal de San Francisco demanda a sitios que crean pornografía con inteligencia artificial sin consentimiento

SAN FRANCISCO, CA.- El fiscal de la ciudad de San Francisco, David Chiu, ha presentado una demanda contra 16 de los sitios web más grandes del mundo que crean y distribuyen pornografía deepfake sin consentimiento.

Esta demanda, la primera de su tipo, alega que los sitios web violan leyes estatales y federales que prohíben la pornografía deepfake, la pornografía de venganza y la pornografía infantil.

La inteligencia artificial ha permitido a actores maliciosos crear imágenes pornográficas no consensuadas de mujeres y niñas, tanto celebridades como menores de edad.

“Esta investigación nos ha llevado a los rincones más oscuros de Internet, y estoy absolutamente horrorizado por las mujeres y niñas que han tenido que soportar esta explotación”, dijo el fiscal de la ciudad David Chiu.

“La IA generativa es muy prometedora, pero como ocurre con todas las nuevas tecnologías, existen consecuencias no deseadas y delincuentes que buscan explotar la nueva tecnología. Tenemos que ser muy claros en que esto no es innovación, es abuso sexual. Este es un gran problema multifacético que nosotros, como sociedad, debemos resolver lo antes posible. Todos debemos hacer nuestra parte para acabar con los malos actores que utilizan la IA para explotar y abusar de personas reales, incluidos los niños”.

Incluyen a Taylor Swift y a estudiantes de secundaria

Las imágenes, aunque falsas, causan daño real a las víctimas, que incluyen desde figuras públicas como Taylor Swift hasta estudiantes de secundaria.

Los sitios web acusados invitan a los usuarios a subir imágenes de personas vestidas para generar versiones pornográficas realistas de esas imágenes.

Algunos de estos sitios incluso promueven la naturaleza no consensual del contenido generado.

La demanda busca la eliminación de estos sitios web, así como medidas cautelares y sanciones civiles.

Chiu subraya la importancia de abordar este problema para proteger a las víctimas y evitar que los delincuentes sigan explotando la inteligencia artificial para abusar de personas reales.

El caso ha sido presentado en el Tribunal Superior de San Francisco bajo el nombre People of the State of California v. Sol Ecom, Inc, et al..

“Cualquier persona que haya sido víctima de pornografía deepfake no consensual o que tenga información relevante, es bienvenida y se le anima a comunicarse con la Oficina del Fiscal de la Ciudad a través de su portal web de quejas del consumidor o su línea directa al (415) 554-3977”, indicó la oficina del fiscal en un comunicado.

¿Qué es la generación de imágenes 'deepfake'?

La generación de imágenes deepfake se refiere a la creación de imágenes falsas pero extremadamente realistas mediante el uso de técnicas avanzadas de inteligencia artificial (IA), específicamente a través de redes neuronales generativas conocidas como Generative Adversarial Networks (GANs).

Estas imágenes pueden mostrar a personas en situaciones, lugares o realizando acciones que nunca ocurrieron en la realidad, pero que parecen auténticas a simple vista.

El proceso comienza con el entrenamiento de modelos de IA utilizando grandes cantidades de datos visuales, como imágenes o videos, de la persona que se desea falsificar.

A partir de esta información, la red generativa de la GAN crea nuevas imágenes, combinando o modificando las características faciales de la persona de manera coherente con la realidad.

A medida que se generan estas imágenes, un modelo discriminador evalúa su autenticidad, lo que permite ajustar continuamente la red generativa hasta que las imágenes sean lo suficientemente realistas como para engañar al discriminador.

Aunque los deepfakes son especialmente conocidos por su capacidad para generar videos falsos en los que las personas parecen decir o hacer cosas que nunca dijeron o hicieron, también pueden usarse para crear fotografías falsas, manipular expresiones faciales o incluso alterar rasgos físicos en tiempo real.

Si bien esta tecnología tiene aplicaciones legítimas en la industria del entretenimiento o para la restauración de imágenes antiguas, también plantea serias preocupaciones éticas y de seguridad, especialmente en el contexto de la desinformación, el fraude y la violación de la privacidad.

Te puede interesar: