Cuando la IA decide: la lección del caso SCHUFA para México

Columnas martes 16 de junio de 2026 -

El problema no es que una institución use tecnología para tomar mejores decisiones. El problema aparece cuando esa tecnología deja de ser una herramienta de apoyo y, en los hechos, sustituye la decisión humana. Ahí, la eficiencia puede convertirse en una forma silenciosa de arbitrariedad.

Esa es la lección más importante del caso SCHUFA, resuelto en 2023 por el Tribunal de Justicia de la Unión Europea. SCHUFA, una empresa alemana de información crediticia elaboraba puntajes para estimar la probabilidad de que una persona cumpliera con sus obligaciones de pago. Esos puntajes eran usados por bancos y otras entidades al decidir si concedían créditos o celebraban relaciones contractuales.

La defensa formal parecía razonable: SCHUFA no otorgaba ni negaba créditos; sólo proporcionaba información. La decisión final, en apariencia, correspondía al banco. Pero el Tribunal fue más allá de esa explicación. Lo relevante no era quién firmaba formalmente la decisión, sino qué peso tenía el puntaje automatizado en el resultado. Si el banco atribuía a esa calificación un papel determinante, entonces el sistema no era un simple insumo técnico: era, en la práctica, una decisión automatizada con efectos significativos para la persona.

La diferencia es fundamental. Muchas organizaciones sostienen que sus sistemas de inteligencia artificial “sólo recomiendan”, “sólo clasifican” o “sólo apoyan” a un funcionario, ejecutivo o analista. Sin embargo, si esa persona se limita a aceptar el resultado del modelo, la intervención humana se vuelve decorativa. No hay juicio independiente, no hay revisión sustantiva y no existe una verdadera posibilidad de corregir un resultado injusto.

Desde una perspectiva de derechos humanos, ese riesgo no es menor. Una decisión automatizada puede afectar el acceso al crédito, al empleo, a seguros, a servicios digitales, a educación, a salud o a beneficios esenciales. También puede reproducir sesgos, castigar trayectorias personales complejas o convertir una probabilidad estadística en una condena práctica. Cuando eso ocurre, la persona deja de ser tratada como sujeto de derechos y queda reducida a un perfil, una categoría de riesgo o un número.

Por eso, la discusión no debe centrarse únicamente en la protección de bases de datos. El verdadero desafío está en revisar cómo se usan esos datos para evaluar, clasificar, predecir y decidir sobre las personas. Un dato puede ser correcto y, aun así, el modelo que lo interpreta puede ser opaco, desproporcionado o injusto.

Para México, la advertencia llega en una época de reformas institucionales profundas. La reconfiguración del sistema de transparencia y protección de datos obliga a preguntarse no sólo qué autoridad conocerá de estos temas, sino con qué criterios se protegerá a las personas frente a decisiones automatizadas. En un contexto de rediseño normativo, la inteligencia artificial no puede quedar fuera de la conversación sobre derechos, controles y rendición de cuentas.

La Ley Federal de Protección de Datos Personales en Posesión de los Particulares reconoce el derecho de oposición frente a tratamientos automatizados que produzcan efectos jurídicos no deseados o afecten de manera significativa derechos, intereses o libertades, especialmente cuando se busca evaluar o predecir aspectos personales sin intervención humana. Ese principio debe leerse hoy a la luz de los nuevos sistemas de inteligencia artificial: no basta con informar que se usan datos; debe existir una explicación razonable, supervisión humana efectiva y posibilidad real de impugnar.

La pregunta central es sencilla: cuando una persona es afectada por una evaluación algorítmica, ¿puede cuestionar sólo si sus datos eran correctos, o también puede cuestionar la lógica del modelo que produjo esa evaluación? La respuesta definirá buena parte de la gobernanza de inteligencia artificial en México.

El caso SCHUFA enseña que no se puede esconder una decisión automatizada detrás de una intervención humana meramente formal. Si el algoritmo determina el resultado, deben existir transparencia, controles, rendición de cuentas y responsabilidad clara.

La inteligencia artificial confiable no se construye sólo con innovación. Se construye con límites jurídicos, explicaciones comprensibles y respeto a la dignidad humana. Un algoritmo puede no aparecer como banco, juez, empleador o autoridad, pero aun así puede decidir el futuro de una persona. Cuando eso ocurre, el derecho no puede mirar hacia otro lado.