¿Cuál es la importancia de normar la inteligencia artificial?

Columnas martes 05 de mayo de 2026 -

La Recomendación sobre la Ética de la Inteligencia Artificial, adoptada por los 193 Estados miembros de la UNESCO en noviembre de 2021, constituye el primer instrumento internacional de alcance global orientado a establecer un marco ético para el desarrollo, uso y gobernanza de la inteligencia artificial. Se trata de un instrumento normativo de carácter no vinculante: si bien no genera obligaciones jurídicas exigibles, sí establece principios y directrices destinados a orientar la actuación de los Estados y de otros actores relevantes, los cuales están llamados a incorporarse mediante legislación, políticas públicas y prácticas institucionales. México, en su calidad de Estado miembro, participó en su adopción.

Esta Recomendación configura una arquitectura normativa y conceptual que articula de manera sistemática un conjunto de valores, principios rectores y ámbitos de intervención. Su premisa fundamental radica en inscribir el desarrollo y la implementación de la inteligencia artificial dentro de un marco axiológico centrado en la dignidad humana, la protección de los derechos fundamentales, la equidad y la sostenibilidad, desplazando enfoques reduccionistas de carácter exclusivamente tecnocrático o economicista. En este contexto, adopta una aproximación holística que concibe la inteligencia artificial como un fenómeno socio-técnico complejo, cuyos efectos se proyectan de manera transversal sobre las esferas social, económica, cultural y jurídica, requiriendo, por tanto, respuestas regulatorias integrales, intersectoriales y multinivel.

Uno de sus aportes más relevantes radica en la adopción de un enfoque de ciclo de vida completo, conforme al cual las implicaciones éticas y jurídicas de la inteligencia artificial deben evaluarse desde su diseño, desarrollo y entrenamiento, hasta su implementación, operación y eventual retiro. Este enfoque permite identificar riesgos estructurales como la reproducción de sesgos algorítmicos, la discriminación sistemática, la afectación a la privacidad, así como posibles impactos en la democracia, el Estado de derecho y el medio ambiente. En consecuencia, la consideración de estos riesgos no debe inhibir la innovación, sino orientarla conforme a criterios de responsabilidad.

Esta directriz resulta especialmente relevante para el Poder Judicial, no porque el documento regule de manera específica la función jurisdiccional, sino porque sus principios de transparencia, explicabilidad, supervisión humana y responsabilidad son directamente aplicables al uso de sistemas de inteligencia artificial en decisiones que puedan afectar derechos. La Recomendación advierte expresamente que la falta de transparencia puede mermar la posibilidad de impugnar eficazmente las decisiones basadas en resultados producidos por sistemas de IA y, por tanto, vulnerar el derecho a un juicio imparcial y a un recurso efectivo. También señala que las personas deben estar informadas cuando una decisión se base en algoritmos, poder solicitar explicaciones, conocer los motivos de la decisión y presentar alegaciones ante una persona habilitada para revisar y enmendar dicha determinación.

De manera paralela, la Recomendación reconoce la función decisiva del sector empresarial en la configuración del ecosistema de la inteligencia artificial. Las empresas deben incorporar principios éticos en todas las etapas del ciclo de vida de los sistemas de IA, mediante la implementación de evaluaciones de impacto, mecanismos de diligencia debida y esquemas de rendición de cuentas. Asimismo, se subraya la obligación de garantizar la transparencia en el uso de algoritmos, informando a los usuarios cuando interactúan con sistemas automatizados y proporcionando explicaciones sobre las decisiones que les afecten. De especial relevancia resulta la exigencia de prevenir, identificar y mitigar sesgos discriminatorios, así como de establecer mecanismos efectivos de reparación.

México aún carece de un marco normativo integral en materia de inteligencia artificial. En este escenario, la Recomendación puede constituir un referente ético para orientar la política legislativa y las decisiones públicas y privadas relacionadas con el desarrollo y uso de estas tecnologías.