Con el propósito de regular el desarrollo, puesta a disposición, implementación, operación y supervisión de los sistemas de inteligencia artificial en el territorio nacional, con enfoque de derechos humanos, seguridad, transparencia e innovación responsable, las diputadas del PRI, Ana Isabel González González y Mónica Elizabeth Sandoval Hernández, plantean expedir la Ley General para la Regulación y Uso Ético de la Inteligencia Artificial en los Estados Unidos Mexicanos.
Dicha Ley sería aplicable a autoridades, dependencias y entidades de cualquier orden de gobierno que desarrollen, adquieran o utilicen sistemas de inteligencia artificial (IA); personas físicas o morales que la desarrollen, comercialicen, distribuyan, integren o utilicen en México, y sistemas de IA cuyos resultados produzcan efectos en el territorio nacional.
Entre otras cuestiones, la iniciativa impulsa la creación de la Agencia Nacional de Supervisión de la Inteligencia Artificial como nuevo organismo público autónomo encargado de supervisar, verificar y sancionar el uso de IA en México, así como el Registro Nacional de Sistemas de IA de Alto Riesgo, el cual será la base oficial administrada por la autoridad para registrar sistemas de IA considerados de alto riesgo.
Busca prohibir usar IA para suplantar identidad o atribuir expresiones falsas con la finalidad de causar daño, fraude o violencia; para decisiones laborales con efectos discriminatorios o sin posibilidad de revisión humana, y emplear IA para explotación, abuso o violencia contra menores, generación o difusión de contenido sexual o degradante de menores y cualquier práctica que ponga en riesgo su integridad.
Puntualiza que el Estado promoverá investigación, desarrollo e innovación en IA con enfoque ético y beneficios sociales. La Agencia promoverá programas de alfabetización y capacitación para los sectores público, privado, educativo y social, priorizando seguridad y derechos, y las adquisiciones gubernamentales de IA deberán exigir evaluación de impacto, transparencia y cláusulas de auditoría y seguridad conforme a lineamientos.
Hace mención que las infracciones a esta Ley se clasificarían en leves, graves y muy graves, conforme al riesgo, daño causado, intencionalidad, reincidencia y cooperación. Las sanciones podrían consistir en amonestación, multa, suspensión temporal, clausura o retiro, inhabilitación para operar sistemas de alto riesgo por un periodo, publicación de sanción firme, y medidas de reparación y corrección.
Considera de alto riesgo, entre otros, los sistemas de IA usados en salud, diagnóstico o triage, educación con efectos de evaluación o acceso, empleo (reclutamiento, evaluación, permanencia o despido); seguridad pública, vigilancia focalizada o análisis predictivo; justicia (apoyo a decisiones jurisdiccionales o ministeriales); servicios esenciales (crédito, seguros, vivienda, servicios públicos), e identidad, biometría o verificación de personas.
Además, prohíbe los sistemas de IA destinados a manipular conductas aprovechando vulnerabilidades que causen daños relevantes, implementar vigilancia masiva indiscriminada sin base legal y control judicial cuando corresponda, realizar “puntuación social” generalizada con efectos adversos sobre derechos, y cualquier uso cuyo propósito directo sea vulnerar derechos humanos.
En sus considerandos, la iniciativa enviada para dictamen a la Comisión de Ciencia, Tecnología e Innovación y para opinión a la de Presupuesto y Cuenta Pública, destaca que aproximadamente una de cada seis personas a nivel mundial interactúa de manera regular con herramientas de inteligencia artificial generativa, y de acuerdo con la UNAM el 66 por ciento de la población mexicana ya utiliza herramientas basadas en IA en su vida diaria.
González González y Sandoval Hernández indican que a pesar de que la inteligencia artificial ya forma parte activa de diversas dinámicas humanas y sectores económicos en México, su adopción se ha dado al margen de un marco normativo especializado, pues la ausencia de reglas claras maximiza los riesgos operativos, éticos y legales en su utilización cotidiana.
Por ello, resulta inaplazable que el Estado legisle en la materia para estructurar un marco de control que salvaguarde los derechos humanos de la ciudadanía frente al uso de estos sistemas automatizados. Más allá de frenar la innovación, la intervención estatal debe entenderse como un mecanismo indispensable para transformar una herramienta potencialmente riesgosa en un motor de desarrollo seguro, transparente y equitativo.
Además, las violaciones a la privacidad, la falta de transparencia en decisiones automatizadas y los riesgos derivados del uso de inteligencia artificial en sistemas críticos representan actualmente algunos de los principales desafíos jurídicos y éticos asociados con el desarrollo tecnológico, y ocurren cuando sistemas automatizados recopilan, almacenan o procesan datos personales sin consentimiento claro o sin mecanismos adecuados de protección, exponiendo información sensible de las personas usuarias.
Es indispensable establecer un marco normativo que regule el desarrollo, uso y supervisión de los sistemas de inteligencia artificial bajo un enfoque basado en riesgos, permitiendo identificar y controlar riesgos que puedan afectar derechos fundamentales, la seguridad o la privacidad de las personas.
Las diputadas del PRI puntualizan que una regulación integral no solo brindaría certeza jurídica y protección a las y los usuarios, sino que también fomentaría la innovación tecnológica responsable y el desarrollo de la inteligencia artificial en México conforme a estándares éticos y de derechos humanos.