“La bancada de Morena en la Ciudad de México trabaja para erradicar la violencia digital generada con IA”
* El progreso tecnológico no puede avanzar a costa de la dignidad humana ni vulnerar los derechos fundamentales de las personas
* Aunque las imágenes generadas con Inteligencia Artificial son simuladas, la situación no elimina ni disminuye el daño que se provoca a las y los afectados
Redacción
Frente al inminente avance de la Inteligencia Artificial y el uso inadecuado de esta tecnología en la generación de imágenes falsas de contenido íntimo y que constituyen violencia digital, la bancada de la Cuarta Transformación levanta la voz desde la tribuna del Congreso de la Ciudad de México y emprende acciones para que se erradique.
A través de su trabajo legislativo, la diputada Adriana Espinosa de los Monteros y el diputado Ángel Tamariz presentaron una iniciativa y un punto de acuerdo, para dejar claro que el progreso tecnológico no puede avanzar a costa de la dignidad humana ni vulnerar los derechos fundamentales de las personas.
Espinosa de los Monteros advirtió desde la tribuna sobre esta forma de violencia, la cual puede comenzar con una simple fotografía tomada de una red social y terminar con la circulación de una imagen sexual falsa vista por miles o millones de personas.
“No se trata de estar en contra de la Inteligencia Artificial, todo lo contrario, se trata de establecer una regla elemental. La innovación debe estar al servicio de las personas, nunca en contra de su dignidad” señaló.
Por su parte, el diputado Ángel Tamariz, afirmó que el desarrollo acelerado de la Inteligencia Artificial nos coloca frente a nuevos y alarmantes desafíos, como la vulneración de la imagen.
El legislador morenista sostuvo que la derecha ha querido vender el mito de que el entorno digital es un espacio neutral, lo cual es una aseveración falsa.
“La tecnología no es neutral, jamás lo ha sido y jamás será”, afirmó Tamariz, explicando que bajo la lógica de libre mercado, los algoritmos responden a intereses corporativos, están diseñados para monetizar datos y trágicamente lucran permitiendo la reproducción de violencias.
El diputado enfatizó que, en los hechos, aunque las imágenes de mujeres generadas con IA son simuladas, la situación no elimina ni disminuye el daño que se provoca a las y los afectados.
Para ilustrar los enormes retos técnicos y probatorios, Tamariz recordó el caso de octubre de 2023, cuando las y los alumnos del Instituto Politécnico Nacional denunciaron el uso de su imagen en este tipo de contenidos, caso que demostró la urgencia de que las autoridades evolucionen para poder rastrear el origen de una imagen manipulada y preservar los metadatos.
Por ello, su exhorto busca que el aparato del Estado apoye desde la prevención, centrando y optimizando las capacidades técnicas y de atención que ya están en marcha en la Ciudad de México, sin apostar por la creación de nuevas burocracias.