La Suprema Corte de Justicia de la Nación (SCJN) validó la Ley de los derechos de niñas, niños y adolescentes de Zacatecas, la cual establece una vida libre de violencia cibernética, digital, así como todas aquellas mediante el uso de Inteligencia Artificial (IA).
Por unanimidad, el Pleno de la Corte determinó que los estados pueden incluir en sus normas locales el término “uso de la Inteligencia Artificial”, con el fin de proteger los derechos de las infancias.
La ministra Margarita Ríos Farjat comentó que la IA presenta riesgos y algunos potencialmente graves.
“Por un lado, la Inteligencia Artificial puede ser utilizada para generar y difundir material de explotación sexual infantil altamente realista, como los llamados deepfakes, que pueden causar un daño profundo y duradero en las víctimas".
"Y, por otro lado, la Inteligencia Artificial puede ser empleada por delincuentes para manipular y engañar niños, niñas y adolescentes, facilitando su victimización”, agregó.
Por su parte, la ministra Yasmín Esquivel Mossa, dijo que se trata de un concepto dinámico desde el punto de vista de la tecnología digital, por lo que cualquier intento en su descripción puede quedar rezagada por la evolución de las herramientas tecnológicas.
“No olvidemos la condición de vulnerabilidad en la que se encuentran las niñas, niños y adolescentes. Ellos no tienen la madurez ni las herramientas para distinguir entre lo que es real y lo que es generado artificialmente, y eso lo hace más susceptibles de engaños, manipulaciones e interacciones peligrosas”.
Esquivel Mossa dejó claro que es una obligación proteger los derechos de los menores, así como prevenir daños psicológicos, sociales y físicos ocasionados por el uso malintencionado de la tecnología.
A su vez, la ministra Loretta Ortiz Ahlf estimó que este tipo de iniciativas son de suma relevancia.
“…no podemos olvidar que en nuestro país 50% de las niñas y niños entre 6 y 11 años ya son usuarios de Internet y en el caso de las adolescencias de 12 a 17 años, estas cifras son del 80 al 94%".
“Asimismo, según las encuestas nacionales, hasta el 25% de las y los adolescentes entre 12 y 17 años han sufrido alguna forma de ciberacoso o violencia cibernética, la cual ha ido aumentando a partir del confinamiento derivado de la pandemia por el Covid-19”, enfatizó.
La ministra Ortiz Ahlf citó que, en Francia, la Oficina de Menores de la Policía reportó que cada vez se usa más la Inteligencia Artificial para generar contenido extremo y violento del material de abuso sexual infantil.
¿Sabes que resolvió hoy en la Sesión del Pleno de la @SCJN?
— Loretta Ortiz Ahlf (@lorettaortiza) April 22, 2025
???????????? Determinamos la constitucionalidad de un artículo de la Ley de los Derechos de Niñas, Niños y Adolescentes de Zacatecas, el cual reconoce su derecho a una vida libre de violencia cibernética, digital, y aquella… pic.twitter.com/sQt2xMymZK
MO
