La bancada de Morena en la Cámara de Diputados presentó su iniciativa de Ley Federal para el Desarrollo Ético, Soberano e Inclusivo de la Inteligencia Artificial que, entre otros aspectos, establece un Sistema de Semáforo de Riesgos con las clasificaciones IA de riesgo mínimo, IA de riesgo limitado, IA de alto riesgo e IA prohibida.
El proyecto de 29 capítulos y 145 artículos prohíbe el desarrollo, entrenamiento, implementación, uso, comercialización, importación o exportación de sistemas de inteligencia artificial que utilicen técnicas de manipulación subliminal o persuasión psicológica extrema para alterar el comportamiento humano sin consentimiento, establezcan mecanismos de puntuación social coercitiva por parte de entidades públicas o privadas, o efectúen vigilancia biométrica masiva en espacios públicos sin autorización judicial expresa y control institucional estricto.
Te recomendamos
De igual forma proscribe la inteligencia artificial para explotar vulnerabilidades de personas con discapacidad, menores de edad, personas mayores o en situación de vulnerabilidad psicosocial, o generar contenido audiovisual o textual simulado con fines de fraude, desinformación o violencia digital.
La iniciativa, inscrita este miércoles en la Gaceta Parlamentaria de la Cámara de Diputados y suscrita por los legisladores morenistas Gabriela Jiménez, Sergio Gutiérrez Luna, Alfonso Ramírez Cuéllar, Leonel Godoy, Olga Sáchez Cordero, Hugo Eric Flores y Sergio Mayer, entre otros, prevé la creación del Consejo Nacional de Inteligencia Artificial, la Plataforma Nacional de Auditoría Algorítmica y el Registro Nacional de Sistemas de Inteligencia Artificial.
El consejo se encargará de proponer criterios éticos, técnicos y jurídicos para la evaluación de riesgos, certificación de sistemas, auditorías algorítmicas y mecanismos de reparación del daño, así como de evaluar el impacto social, económico, ambiental y cultural de la implementación de la inteligencia artificial en México.
La plataforma tendrá la atribución de auditar conjuntos de datos utilizados para entrenar modelos de inteligencia artificial, identificando sesgos estructurales, deficiencias de representatividad y riesgos de impacto diferenciado, además de asignar las etiquetas de evaluación algorítmica de conformidad con el semáforo de riesgos y recibir y atender quejas ciudadanas sobre decisiones automatizadas injustificadas, opacas o discriminatorias.
El registro será público y contendrá nombre, tipo y propósito de los sistemas de inteligencia artificial, nivel de riesgo clasificado conforme al semáforo legal, nombre del desarrollador, proveedor o entidad responsable.
El articulado establece sanciones que irían de la amonestación pública y la suspensión temporal o cancelación del sistema, a la imposición de multas por infracciones leves, graves y muy graves hasta por 100 mil veces el valor de la Unidad de Medida y Actualización, equivalente a 11 millones 314 mil pesos en 2025.
Ello, sin descartar la persecución por la vía penal en caso de configurarse la comisión de delitos.
“Cuando el uso de un sistema de inteligencia artificial ocasione lesiones, muerte, privación de la libertad, daño patrimonial grave, o sea parte de una conducta delictiva como fraude, manipulación electoral, violencia digital, trata de personas o vigilancia ilícita, los hechos podrán ser perseguidos penalmente conforme al Código Penal Federal, sin perjuicio de las sanciones administrativas o civiles”, subraya.
La propuesta impulsada por los diputados federales de Morena considera adicionalmente disposiciones para la protección a la infancia, con la prohibición del uso de inteligencia artificial para generar contenido que promueva la violencia, la autolesión, el odio, la discriminación o conductas nocivas; estimular adicciones digitales, dependencia tecnológica o alteraciones emocionales graves.
También, busca evitar la impulsar manipulación psicológica, explotación comercial desproporcionada o difusión de información falsa, distorsionada o descontextualizada que afecte negativamente el desarrollo integral de menores.
Impide asimismo monitorear, manipular o perfilar a niñas, niños o adolescentes con fines comerciales, políticos o de control social; generar o difundir material de explotación sexual infantil, incluidos contenidos generados mediante técnicas de hiperrealismo como las denominadas mentiras profundas, y explotar vulnerabilidades cognitivas o emocionales propias de la infancia.
Tampoco será permitido experimentar modelos de inteligencia artificial utilizando datos de menores sin el consentimiento expreso, informado y verificable de quien ejerza la patria potestad, custodia o tutela.
LP
