Deepfakes

Nueva York clausura 12 sitios web de porno "deepfake" que mostraban figuras del cine y la política

El fiscal Alvin Bragg destaca que esta es la mayor clausura de sitios de pornografía generada con inteligencia artificial en el estado

| 2 min de lectura
Un hombre con smartphone utiliza la detección de deepfake potenciada por IA para identificar medios manipulados con alta precisión. (Shutterstock)

Las autoridades de Nueva York anunciaron la clausura este lunes de una docena de sitios web que alojaban imágenes pornográficas ultrafalsas o deepfakes con famosos actores y políticos.

El auge de este tipo de sitios con imágenes deepfakes, no consentidas y creadas con inteligencia artificial (IA), desborda en la actualidad los esfuerzos para regular esta tecnología en todo el mundo debido a la abundancia de aplicaciones que las producen.

El fiscal de distrito de Manhattan, Alvin Bragg, dijo que creía que este era la mayor acción de cierre de sitios web enfocados en pornografía ilegal generada con IA.

Los sitios, algunos con nombres como "Celebridades IA", alojaban imágenes hiperrealistas, montajes y clips de video de unas 1,200 víctimas, según los fiscales.

Bragg dijo que eran "fotos y videos que utilizan inteligencia artificial para hacer que parezca que personas reales participan en actos de carácter sexual explícito".

RELACIONADAS

Detalles legales

"En el estado de Nueva York es ilegal compartir fotos o videos reales de personas en actos sexuales sin su consentimiento. De la misma forma lo es compartir dicho contenido si ha sido creado o alterado con herramientas de inteligencia artificial", agregó.

Bragg dijo que una de las víctimas reportó uno de los sitios, lo que generó el inicio de una investigación. No confirmó si en la operación hubo detenidos.

  • "Nuestras investigaciones sobre sitios de pornografía deepfake y creadores de contenido apenas están empezando. Esto es parte de nuestro trabajo más amplio para desmantelar sistemas que alimentan y fomentan el crimen", explicó.

En mayo, Estados Unidos comenzó a aplicar una ley que exige a las plataformas tecnológicas eliminar los deepfakes sexuales y otras imágenes íntimas no consentidas.

El presidente Donald Trump promulgó el año pasado la Ley "Take It Down", que penaliza la distribución en línea de imágenes sexuales no consensuales que a menudo se crean utilizando herramientas de inteligencia artificial baratas y ampliamente disponibles.

Fehaciente, fidedigno y fácil. Agencia de noticias multimedia en español.