¡LEY DE I.A. EN MÉXICO: TODO LO QUE NECESITAS SABER! 🤖

El pasado 02 de abril del año en curso 📅, el Dr. Ricardo Monreal, Senador integrante del Grupo Parlamentario de Morena de la LXV Legislatura de la Cámara de Senadores del Congreso de la Unión, presentó en el pleno del senado la “Iniciativa con proyecto de decreto por el que se expide la Ley Federal que Regula la Inteligencia Artificial” 💡.

El Senador Monreal, en su exposición de motivos, da a conocer que, con la iniciativa, se pretende dar paso a la creación en México del primer marco jurídico en materia de Sistemas de Inteligencia Artificial, de forma que se puedan aprovechar los beneficios de su utilización en, básicamente, todos los campos del día a día, sin dejar de lado la protección de los derechos de terceros, usuarios y público en general.

Entrando en el contenido del proyecto de decreto, nos encontramos con que la Ley Federal que Regula la Inteligencia Artificial (en adelante la “Ley”) tendría como objeto lo siguiente ☑️:

I.        Regular el desarrollo, comercialización y utilización de los sistemas de inteligencia artificial;

II.     Garantizar el respeto de los derechos humanos y evitar discriminación al utilizar los sistemas de inteligencia artificial;

III.      Proteger los derechos de propiedad intelectual; y,

IV.      Facilitar el desarrollo nacional de sistemas de inteligencia artificial.

¿Y QUÉ SON LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL? 🤖

La propuesta de Ley define a los Sistemas de Inteligencia Artificial (en adelante los “SIA”) como “aquellos que implican el uso y aprovechamiento de las tecnologías de la información para crear programas informáticos capaces de ejecutar cálculos, operaciones, investigaciones o razonamientos comparables a las que realiza la mente humana”, ¡y todo esto lo hacen sin café! ☕

La Ley fija como autoridad competente en lo relativo a los SIA al Instituto Federal de Telecomunicaciones (en adelante el “Instituto”) 🏛️, quien se apoyaría en una Comisión Nacional de Inteligencia Artificial (en adelante la “Comisión”) 📑, integrada por 5 científicos en materia de desarrollo tecnológico y tecnologías de la información que ostentarían ese cargo de forma honorífica y, en conjunto con el Instituto, serían los encargados de hacer valer lo dispuesto en la Ley, así como de incluir políticas públicas en materia de inteligencia artificial dentro de la política nacional de telecomunicaciones, teniendo por tanto la obligación de que el Programa Nacional respectivo tenga un apartado sobre desarrollo y utilización de inteligencia artificial, con un horizonte de por lo menos 20 años. 

VA, PERO ¿QUÉ ES LO IMPORTANTE DE ESTE PROYECTO DE LEY? 🔍

Entre su conglomerado de disposiciones, resulta de importancia la clasificación de los SIA, según su riesgo, en los siguientes 3 grupos, a ser determinados en cada caso por el Instituto y la Comisión en un proceso previo a que los proveedores del sistema puedan comercializarlo, haciendo mención que los proveedores de los mismos deberán garantizar que los sistemas, mientras estén en uso, puedan ser vigilados por dichas autoridades, con el objetivo de prevenir o reducir al mínimo los riesgos para la salud, la seguridad o los derechos fundamentales:

1.     SIA de riesgo inaceptable 🔼, siendo estos aquellos que mediante el uso de la inteligencia artificial puedan provocar graves perjuicios físicos o psicológicos a las personas, así como el uso de estos para la identificación biométrica.

Respecto a este grupo, se propone prohibir su comercialización, venta, distribución y uso, cuando sean destinados a: a) alterar el comportamiento de las personas, causando perjuicios físicos o psicológicos mediante el uso de “técnicas subliminales” que “trasciendan la consciencia”; b) aprovechar las vulnerabilidades de grupos específicos de personas para alterar su comportamiento, causando daños a ese grupo vulnerable o a terceros; c) evaluar o clasificar a las personas físicas durante un período de tiempo atendiendo su conducta social o personalidad, de forma que se dañe o se provoque perjuicio a una o varias personas; d) la identificación biométrica remota en tiempo real en espacios de acceso público sin la autorización de la persona afectada, salvo los casos de interés público o seguridad nacional; y, e) alterar archivos de voz o imagen de cualquier persona para modificar su contenido original sin autorización de la persona afectada.

2.     SIA de alto riesgo ⏺️, considerados los que puedan causar un perjuicio a la salud o a la seguridad de las personas, o que produzcan un daño o menoscabo a los derechos humanos, así como los que se utilicen para los siguientes fines: a) identificación biométrica remota, en tiempo real o diferido, en espacios privados; b) gestión de suministro de agua, electricidad y gas; c) asignación y determinación del acceso a establecimientos educativos y evaluaciones a estudiantes; d) selección y contratación de trabajadores, así como asignación de tareas, su seguimiento y evaluación; e) evaluación a personas para acceder a prestaciones, servicios y programas sociales; f) evaluación de solvencia económica o calificación crediticia de personas; g) definición de prioridades de atención a personas en situaciones de emergencia; h) utilización en investigación de hechos en procesos penales; i) gestión personalizada o de la migración, el asilo y el control fronterizo; y, j) influir en las preferencias político-electorales de los ciudadanos, suplantando voz o imagen de candidatos o dirigentes políticos sin hacerlo explícito de manera indudable.

En lo que respecta a este grupo, la Ley propone que los proveedores deberán contar con un sistema de gestión de riesgos en los términos que emita el Instituto la Comisión, teniendo además las obligaciones siguientes; a) contar con sistema de gestión de calidad; b) elaborar y difundir documentación técnica del sistema; c) conservar los archivos de registro que sus sistemas generen automáticamente; d) someter a los sistemas a los procedimientos de evaluación y de control humano que determinen el Instituto y la Comisión; y, e) cumplir con las obligaciones de registro ante el Instituto y la Comisión.

3.     SIA de bajo riesgo 🔽, en referencia a los que, durante su utilización, no implican un peligro a la salud o a la seguridad de las personas, o un daño o menoscabo de los derechos humanos, estando obligados sus proveedores solo a cumplir con los parámetros de calidad y códigos de conducta que emitan el Instituto y la Comisión.

AYUDA, ¿ESTO AFECTA A MI MEJOR AMIGO CHATGPT? 😨

La propuesta de Ley hace bien en proponer que los desarrolladores y proveedores de SIA que estén basados en Modelos de Lenguaje de Gran Tamaño (algoritmo de aprendizaje profundo que puede reconocer, resumir, traducir, predecir y generar texto y otro contenido basado en el conocimiento obtenido de conjuntos de datos masivos), que utilicen para el entrenamiento de esos sistemas, bases de datos de información generada o creada por terceros, como lo es ChatGPT, solo podrán utilizar esa información o contenido previo acuerdo con los titulares de los derechos de propiedad intelectual de esa información o contenido. Así que sí, lo afecta.

PERO NO HAY CONSECUENCIAS REALES CONTEMPLADAS, ¿O SÍ? 🤔

Sí, las hay, y es que el proyecto contempla que, según la gravedad de la falta que cometan a las disposiciones de la Ley o de su futuro reglamento los proveedores de los SIA podrán ser merecedores a sanciones que van desde una amonestación pública hasta una multa por el 5% de los ingresos anuales del infractor, pudiendo incrementar dicho porcentaje hasta un 10% en casos de reincidencia. 💰

YA ME PREOCUPÉ, ¿QUÉ HAY QUE HACER? ⏱️

Es crucial destacar que la Ley aún no ha sido discutida en el pleno, ya que, después de su presentación, fue remitida a las Comisiones Unidas de Ciencia y Tecnología y de Estudios Legislativos. Por lo tanto, en este momento es fundamental seguir de cerca su proceso de discusión y prepararse para una inminente regulación de la inteligencia artificial. Esta regulación se vuelve indispensable dada la creciente importancia del tema y la necesidad de mitigar cualquier potencial desinformación que pueda surgir como resultado de su uso.