El Senado mexicano está a punto de presentar una propuesta de ley histórica para regular la Inteligencia Artificial, marcando un antes y un después al categorizar infracciones como ‘gravísimas’ con penas de cárcel y establecer mecanismos para la defensa ciudadana contra el uso indebido de esta tecnología. Tras 10 meses de trabajo, legisladores de diversas fuerzas políticas como Morena, PAN, PVEM, PRI, PT y Movimiento Ciudadano, coordinados por el priista Rolando Zapata, buscan proteger los derechos fundamentales y la integridad social frente a los desafíos de la IA.
La iniciativa introduce una clasificación inédita de infracciones —leves, graves y gravísimas—, siendo estas últimas las que acarrearán las sanciones más severas, incluyendo penas privativas de la libertad. Entre las prácticas expresamente prohibidas se encuentra el uso de IA para ‘manipulación cognitiva, política, electoral o social’ con fines ilícitos o contrarios a los principios democráticos.
Protección reforzada contra la violencia digital de género
Uno de los ejes centrales de esta propuesta es la protección contra la violencia digital de género. Se considerarán ‘prácticas prohibidas’ aquellas que, intencionalmente o por diseño, causen daño grave a mujeres o niñas. Esto incluye explícitamente la generación o difusión de deepfakes o contenidos sintéticos de carácter sexual o íntimo sin consentimiento, así como la manipulación de imágenes, audios o videos para humillar, acosar, extorsionar o ejercer violencia.
‘Se considerarán prácticas prohibidas de violencia digital mediante inteligencia artificial aquellas que, de manera intencional o como resultado previsible de su diseño, operación o falta de salvaguardas razonables, tengan por objeto o efecto causar daño grave a mujeres o niñas. En particular la generación o difusión de deepfakes o contenidos sintéticos de carácter sexual o íntimo sin el consentimiento expreso de la persona afectada, o de cualquier contenido de esta naturaleza que involucre a niñas, niños o adolescentes, en cuyo caso el consentimiento será nulo e irrelevante.’
Además, la ley apunta a combatir la automatización deliberada de campañas de odio, difamación o agresiones basadas en género, y el diseño de sistemas de IA para facilitar el ciberacoso y la persecución digital.
Nuevos organismos y definición de infracciones
La propuesta legislativa plantea la creación de organismos clave para la gobernanza de la IA en México: la Autoridad Nacional de IA, la Estrategia Nacional de Inteligencia Artificial, el Fondo Nacional para el Desarrollo de la IA y el Sistema Nacional de Certificación de la IA.
Por primera vez en la legislación mexicana, se define el concepto de ‘gravísimas’ para infracciones relacionadas con el uso de IA. Se incluyen, entre otras, desarrollar o utilizar aplicaciones prohibidas por la ley; implementar sistemas que causen ‘daños graves o irreversibles’ a la vida, integridad, salud o derechos humanos; operar ‘sistemas autónomos letales’ sin supervisión humana significativa; utilizar IA para vigilancia masiva sin base legal; y proveer sistemas diseñados para el fraude, la extorsión o la desinformación.
‘Emplear inteligencia artificial para manipulación cognitiva, política, electoral o social con fines ilícitos o contrarios a los principios democráticos, de manera deliberada. No se considerarán comprendidas en este supuesto las actividades de comunicación política, publicidad o difusión de ideas realizadas de conformidad con la ley y los principios democráticos.’
Las infracciones graves abarcan omisiones en evaluaciones de impacto algorítmico, negación de información técnica, incumplimiento de requisitos de certificación y manipulación de documentación. Las infracciones leves se refieren a omisiones no sustantivas o retrasos injustificados en la entrega de información no esencial.
Prácticas prohibidas adicionales y enfoque basado en riesgos
La iniciativa enumera otras prácticas prohibidas como los sistemas de manipulación cognitiva sin consentimiento, los sistemas de puntuación social discriminatorios, la identificación biométrica masiva en tiempo real sin orden judicial y la vigilancia masiva sin base legal. También se restringe el uso de IA en entornos laborales y educativos para el reconocimiento de emociones si generan discriminación, y se prohíben los sistemas que generen deepfakes engañosos con fines de fraude, manipulación política o violencia de género, así como aquellos que exploten vulnerabilidades de grupos en situación de riesgo.
La ley se guiará por un ‘enfoque basado en riesgos’, clasificando los sistemas de IA según su impacto. Los sistemas de alto riesgo estarán sujetos a obligaciones reforzadas de registro, evaluación, certificación, auditoría y supervisión, mientras que los de uso limitado o personal solo deberán cumplir con principios básicos de seguridad, transparencia y no discriminación.
El panorama
Esta ambiciosa propuesta, que surge de la Comisión de Análisis, Seguimiento y Evaluación sobre la Aplicación y Desarrollo de la Inteligencia Artificial del Senado, posiciona a México como un referente en la regulación de una tecnología cada vez más omnipresente. Su aprobación sentará las bases para un marco legal que busca equilibrar la innovación con la protección de los derechos ciudadanos y la seguridad nacional en la era de la inteligencia artificial, marcando un hito en la legislación tecnológica del país.
