La decisión pública, la supervisión humana y el derecho a exigir explicaciones
I. Cuando el algoritmo interviene en la decisión pública
Una persona solicita una prestación económica. Otra presenta una solicitud de patente. Una tercera recibe un requerimiento administrativo. En cualquiera de estas situaciones, la autoridad puede utilizar herramientas informáticas para organizar información, identificar inconsistencias, establecer prioridades o apoyar la valoración de un expediente.
La utilización de estas herramientas no constituye, por sí misma, un problema jurídico. La Administración Pública necesita procesar información y puede recurrir a la tecnología para desempeñar sus funciones con mayor eficacia.
La cuestión aparece cuando un sistema algorítmico influye en la formación de una decisión que afecta a una persona.
Conviene distinguir entre algoritmo e inteligencia artificial. Un algoritmo es un conjunto de instrucciones o reglas para ejecutar operaciones. Algunas herramientas utilizan reglas previamente definidas; otras emplean técnicas de inteligencia artificial que permiten identificar patrones, generar predicciones o producir recomendaciones. No toda automatización utiliza inteligencia artificial, ni toda inteligencia artificial adopta decisiones. Esta diferencia importa porque los sistemas pueden cumplir funciones distintas.
Una herramienta puede limitarse a clasificar documentos. Otra puede identificar solicitudes que requieren revisión adicional. Una tercera puede generar una recomendación que influya significativamente en la valoración de un servidor público. Los riesgos jurídicos no son necesariamente iguales en los tres supuestos.
Los principios sobre inteligencia artificial de la Organización para la Cooperación y el Desarrollo Económicos, actualizados en 2024, destacan la transparencia, la explicabilidad, la trazabilidad y la responsabilidad de los actores involucrados. Constituyen referencias internacionales para la gobernanza tecnológica, pero no deben confundirse con obligaciones directamente aplicables a todos los procedimientos administrativos mexicanos.
La pregunta relevante no es solamente si el gobierno utiliza inteligencia artificial. Es qué función cumple el sistema, cuánto influye en la decisión y cómo puede la autoridad responder jurídicamente por el resultado.
II. La responsabilidad jurídica no se automatiza
El derecho administrativo mexicano parte de una premisa fundamental. Las autoridades deben actuar dentro de las competencias que el ordenamiento jurídico les atribuye y sujetarse a las garantías aplicables a sus actuaciones. Los artículos 14 y 16 de la Constitución Política de los Estados Unidos Mexicanos constituyen referencias centrales para examinar la legalidad de los actos de autoridad, las formalidades exigibles y la obligación de fundamentación y motivación.
En el ámbito de aplicación de la Ley Federal de Procedimiento Administrativo, su artículo 3, fracciones I y V, exige que los actos administrativos sean expedidos por órgano competente y estén fundados y motivados. Las fracciones XIV y XV contemplan, en los supuestos correspondientes, referencias al expediente y a los recursos procedentes. La aplicación de estas disposiciones debe examinarse considerando las reglas, exclusiones y regímenes especiales previstos en los artículos 1 y 2 de la propia ley. Estas obligaciones no desaparecen cuando una autoridad utiliza tecnología. Sin embargo, la incorporación de sistemas algorítmicos puede transformar las condiciones materiales en las que tales obligaciones se cumplen. Una autoridad puede tener competencia para resolver un procedimiento y, al mismo tiempo, utilizar una herramienta cuya recomendación influya en la valoración de los hechos. En ese supuesto surge una cuestión adicional. ¿Cuenta la autoridad con elementos suficientes para comprender y justificar el resultado que incorpora a su decisión? La fundamentación identifica el sustento normativo de la actuación. La motivación exige expresar las circunstancias y razones relevantes que justifican su aplicación al caso concreto. La utilización de un sistema algorítmico no sustituye estas exigencias cuando resultan jurídicamente aplicables. Pero tampoco debe concluirse que toda intervención tecnológica obliga a describir exhaustivamente el funcionamiento matemático o informático del sistema. La cuestión depende de la relevancia de esa intervención.
Si un algoritmo únicamente ordena documentos, su funcionamiento puede no constituir un elemento determinante de la resolución. Si, por el contrario, una recomendación algorítmica influye sustancialmente en la valoración de una solicitud, resulta necesario examinar qué elementos deben conservarse en el expediente y cuáles deben poder explicarse para justificar la actuación. La distinción permite evitar dos extremos. Uno consiste en considerar que la tecnología es jurídicamente neutral en cualquier circunstancia. El otro, en presumir que toda decisión asistida por algoritmos es irregular o inválida. Ninguna de esas conclusiones se sostiene de manera general.
La responsabilidad jurídica continúa correspondiendo a las autoridades conforme al régimen aplicable. Lo que puede cambiar es la complejidad de demostrar que la decisión fue adoptada con elementos suficientes, mediante el procedimiento correspondiente y con razones susceptibles de revisión.
III. Supervisión humana y capacidad efectiva de decisión
La supervisión humana suele presentarse como una garantía frente a los riesgos de los sistemas algorítmicos. Sin embargo, la presencia de una persona en el procedimiento no demuestra, por sí sola, que exista una revisión efectiva.
Imaginemos que una herramienta tecnológica identifica una posible irregularidad y genera una alerta. El servidor público encargado del expediente puede disponer de información suficiente para revisar los antecedentes, verificar los hechos y decidir si corresponde alguna actuación adicional. En ese escenario, el sistema cumple una función auxiliar y la autoridad conserva una capacidad efectiva de valoración.
La situación es distinta si el servidor público recibe únicamente una calificación o recomendación que no puede examinar críticamente, pero que debe aceptar para continuar el procedimiento. En ese segundo supuesto, la intervención humana podría resultar predominantemente formal.
No significa necesariamente que exista una infracción jurídica. Para determinarla sería indispensable conocer las disposiciones aplicables, las características del procedimiento y la influencia real del sistema. La distinción permite formular una condición institucional relevante. La supervisión humana debería comprender la posibilidad real de examinar, cuestionar y, cuando corresponda, modificar los resultados de una herramienta algorítmica.
La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, adoptada en 2021, ofrece criterios internacionales sobre responsabilidad humana, supervisión y evaluación de impactos. Su valor para este análisis es orientador y no equivale a la incorporación automática de todas sus recomendaciones al derecho administrativo mexicano. También resulta necesario reconocer que no todas las aplicaciones requieren idéntica intensidad de supervisión.
Un sistema que distribuye turnos de atención plantea problemas distintos de otro que interviene en la evaluación de requisitos para acceder a una prestación pública. Por ello, la gobernanza debe considerar la función del sistema, la magnitud de sus posibles errores y las consecuencias de su utilización para las personas. El objetivo no consiste en impedir que las autoridades empleen herramientas automatizadas. Consiste en preservar una relación verificable entre la actuación tecnológica, la competencia administrativa y la responsabilidad institucional.
IV. El ciudadano ante una decisión algorítmicamente asistida
Para una persona afectada por una decisión administrativa, conocer los detalles técnicos de un sistema puede resultar menos importante que comprender las razones de la actuación de la autoridad.
Si se niega una solicitud, se modifica una prestación o se impone una obligación, el ciudadano necesita saber qué hechos fueron considerados, qué normas resultaron aplicables y qué medios tiene para cuestionar la determinación.
La intervención algorítmica puede introducir dificultades adicionales cuando parte de la valoración administrativa se apoya en datos, modelos o recomendaciones cuyo papel no resulta evidente para la persona. En este punto conviene distinguir cuatro dimensiones jurídicas.
La explicación de la decisión administrativa. Cuando existe obligación de fundamentar y motivar, la autoridad debe satisfacerla conforme al régimen aplicable. La utilización de tecnología no reemplaza la justificación jurídica de la actuación.
El acceso a la información pública. El régimen de transparencia permite solicitar información en los términos y con las excepciones previstos por la legislación. No equivale a un derecho ilimitado a conocer cualquier componente técnico, código fuente o información protegida.
La protección de datos personales. La Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados regula el tratamiento de datos por autoridades y reconoce derechos de acceso, rectificación, cancelación y oposición, sujetos a las condiciones legales correspondientes. Estos derechos deben distinguirse del acceso al expediente administrativo y de los medios de defensa contra una resolución.
La misma ley contempla, en sus artículos 68 a 73, evaluaciones de impacto en protección de datos personales para determinados tratamientos intensivos o relevantes, conforme a los supuestos y excepciones legales. Tales evaluaciones constituyen instrumentos preventivos de gestión de riesgos, pero no acreditan por sí mismas la corrección jurídica de cada decisión administrativa individual.
La revisión de la actuación. La Ley Federal de Procedimiento Administrativo prevé, en su artículo 83, un recurso de revisión dentro de su ámbito de aplicación. Su procedencia, al igual que la de otros medios administrativos o jurisdiccionales, debe determinarse según el régimen correspondiente.
Estas cuatro dimensiones pueden complementarse, pero no son intercambiables. De ellas tampoco se desprende automáticamente un derecho general e irrestricto a recibir una explicación técnica exhaustiva de cualquier algoritmo utilizado por una autoridad. La cuestión jurídicamente relevante es determinar qué información resulta necesaria para que la persona comprenda y pueda controvertir los elementos que sustentan una decisión, en la medida reconocida por el ordenamiento aplicable. Desde la perspectiva ciudadana, esta cuestión puede expresarse mediante tres preguntas.
Comprender. ¿Cuáles fueron los hechos, las normas y las valoraciones que sustentaron la decisión?
Cuestionar. ¿Qué elementos pueden controvertirse y mediante qué procedimiento?
Exigir responsabilidad. ¿Qué autoridad debe responder por la actuación y, cuando proceda, corregirla?
La tecnología no debería convertir estas preguntas en cuestiones imposibles de responder.
V. Experiencias institucionales y límites de verificación
La incorporación de herramientas algorítmicas a la Administración Pública Federal comienza a reflejarse en iniciativas institucionales de modernización. Sin embargo, conocer el anuncio de una herramienta no equivale a conocer su funcionamiento ni su influencia efectiva en una decisión administrativa. Esta distinción resulta fundamental para evitar que el análisis jurídico descanse en suposiciones.
El IMPI y el procesamiento de solicitudes de patentes. Durante la conferencia presidencial del 24 de septiembre de 2026, autoridades federales hicieron referencia al desarrollo de herramientas algorítmicas destinadas a agilizar el procesamiento de solicitudes ante el Instituto Mexicano de la Propiedad Industrial. [1] La referencia es relevante porque los procedimientos de propiedad industrial pueden culminar en resoluciones administrativas que reconocen o niegan derechos. No obstante, la información institucional consultada no permite establecer con precisión si la herramienta anunciada organiza expedientes, realiza tareas auxiliares del examen o interviene en valoraciones sustantivas. Por consiguiente, no podemos afirmar que determine la concesión o negativa de patentes. Tampoco contamos con elementos suficientes para evaluar la supervisión humana, la documentación técnica o los mecanismos de revisión asociados a esa herramienta. Esta limitación no demuestra la inexistencia de controles ni constituye evidencia de incumplimiento jurídico.
El ejemplo permite ilustrar una distinción necesaria para la gobernanza algorítmica. La existencia de tecnología dentro de un procedimiento no demuestra, por sí misma, que esa tecnología decida su resultado. Para determinar sus consecuencias jurídicas es indispensable identificar la función concreta del sistema y el grado de influencia que ejerce sobre la actuación administrativa. La referencia al IMPI no constituye una evaluación de su funcionamiento institucional ni de la legalidad de sus procedimientos. Se utiliza exclusivamente para mostrar la importancia de diferenciar la incorporación tecnológica de la intervención decisoria.
VI. Condiciones para una gobernanza algorítmica centrada en el ciudadano
La incorporación de algoritmos puede contribuir a mejorar la capacidad de la Administración para procesar información, identificar problemas y atender necesidades públicas. La cuestión jurídica no consiste en rechazar esas posibilidades, sino en determinar bajo qué condiciones pueden aprovecharse sin debilitar las garantías de las personas.
Los principios de inteligencia artificial de la OCDE, actualizados en 2024, y la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, adoptada en 2021, ofrecen criterios sobre transparencia, explicabilidad, supervisión y responsabilidad.
Estos instrumentos constituyen referencias internacionales relevantes. No deben interpretarse como un catálogo de obligaciones técnicas directamente exigibles a todas las autoridades mexicanas.
A partir del marco jurídico nacional y de esas orientaciones, proponemos cinco condiciones institucionales.
Primera. Identificar la función del sistema. La Administración debería conocer qué actividad realiza la herramienta, qué información utiliza y cuál es su influencia en el procedimiento. No es equivalente ordenar documentos, detectar inconsistencias o producir recomendaciones que incidan sustancialmente en una resolución. La identificación de esas diferencias constituye el punto de partida para determinar qué controles resultan pertinentes.
Segunda. Preservar la responsabilidad jurídica de la autoridad. La incorporación de tecnología no debe impedir identificar al órgano competente ni justificar jurídicamente sus actuaciones. La responsabilidad administrativa no puede considerarse satisfecha por la sola existencia de una recomendación algorítmica. Cuando una autoridad incorpora el resultado de una herramienta a su valoración, debe examinarse si dispone de elementos suficientes para sustentar la decisión conforme al régimen aplicable.
Tercera. Establecer una supervisión proporcional y efectiva. La intensidad de los controles debería atender a las consecuencias de los posibles errores y a la relevancia de la intervención tecnológica. La supervisión humana, cuando resulte necesaria, no debería limitarse a confirmar automáticamente los resultados. Su efectividad depende de que las personas responsables cuenten con información, atribuciones y capacidad real para valorar críticamente las recomendaciones.
Cuarta. Conservar información que permita reconstruir la actuación. La Administración debería disponer de elementos documentales suficientes para identificar la intervención relevante de un sistema dentro del procedimiento. Esto no significa que toda actuación requiera divulgar el código fuente o revelar información protegida. Significa que, cuando un resultado algorítmico influye sustancialmente en una decisión, debe examinarse qué información es necesaria para sustentarla y permitir su revisión conforme a las disposiciones aplicables.
Quinta. Preservar las posibilidades del ciudadano para comprender, cuestionar y exigir responsabilidad. La incorporación tecnológica no debería obstaculizar el ejercicio de las garantías y medios de defensa que correspondan. Una persona afectada por una resolución debe poder identificar, en los términos previstos por el ordenamiento jurídico, las razones relevantes de la actuación y la autoridad responsable. La posibilidad de cuestionar una decisión constituye una garantía esencial frente al ejercicio del poder público, independientemente de las herramientas utilizadas para prepararla.
Estas cinco condiciones pretenden constituirse en criterios de análisis y propuestas de gobernanza cuya aplicación debe considerar las características de cada sistema, las competencias institucionales y la legislación correspondiente. Su finalidad es colocar al ciudadano en el centro de la discusión tecnológica.
Conclusión
La utilización de algoritmos puede transformar la manera en que la Administración Pública procesa información y prepara sus decisiones. Sin embargo, la tecnología no elimina las competencias, responsabilidades y garantías jurídicas que corresponden a las autoridades.
El desafío consiste en reconocer que, aunque esas obligaciones permanezcan, las condiciones materiales necesarias para cumplirlas pueden cambiar.
Una autoridad puede conservar formalmente su competencia y utilizar herramientas cuya influencia deba comprender, documentar y controlar para justificar adecuadamente sus actuaciones.
Por ello, la gobernanza algorítmica no debería evaluarse únicamente por la eficiencia de los procedimientos, la velocidad de procesamiento o la sofisticación tecnológica de los sistemas. También debe examinarse desde la posición de las personas afectadas por las decisiones públicas. El ciudadano necesita poder comprender las razones de una actuación, cuestionarla mediante los procedimientos correspondientes e identificar a la autoridad que debe responder por ella. Estas capacidades no sustituyen el análisis de legalidad ni crean, por sí mismas, derechos adicionales a los reconocidos por el ordenamiento. Permiten, en cambio, orientar la discusión hacia la efectividad de las garantías existentes y las condiciones institucionales necesarias para preservarlas.
La inteligencia artificial puede ampliar las capacidades del Estado. Su utilización no debería disminuir la capacidad del ciudadano para exigir explicaciones y responsabilidades.
La tecnología puede transformar la manera en que el Estado decide. Lo que no debería transformar es el derecho de las personas a exigir que sus decisiones tengan fundamento, razones y responsables.
Fuentes y bibliografía oficial
Normativa mexicana
Constitución Política de los Estados Unidos Mexicanos. Artículos 14 y 16. Cámara de Diputados, texto vigente.
https://www.diputados.gob.mx/LeyesBiblio/pdf/CPEUM.pdf
Ley Federal de Procedimiento Administrativo. Artículos 1, 2, 3 (fracciones I, V, XIV y XV) y 83. Cámara de Diputados, texto vigente.
https://www.diputados.gob.mx/LeyesBiblio/pdf/LFPA.pdf
Ley General de Transparencia y Acceso a la Información Pública. Cámara de Diputados, texto vigente.
https://www.diputados.gob.mx/LeyesBiblio/pdf/LGTAIP.pdf
Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados. Artículos 68 a 73 y disposiciones sobre derechos ARCO. Cámara de Diputados, texto vigente.
https://www.diputados.gob.mx/LeyesBiblio/pdf/LGPDPPSO.pdf
Instrumentos internacionales
Organización para la Cooperación y el Desarrollo Económicos (OCDE). Recomendación del Consejo sobre Inteligencia Artificial, OECD/LEGAL/0449 (2019; revisión de 2024).
https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO). Recomendación sobre la Ética de la Inteligencia Artificial (23 de noviembre de 2021).
https://www.unesco.org/es/legal-affairs/recommendation-ethics-artificial-intelligence
Fuente institucional del caso ilustrativo
[1] Presidencia de la República. Versión estenográfica de la conferencia de prensa de la presidenta Claudia Sheinbaum Pardo del 24 de septiembre de 2026.
https://www.gob.mx/presidencia/es/articulos/version-estenografica-conferencia-de-prensa-de-la-presidenta-claudia-sheinbaum-pardo-del-24-de-septiembre-de-2026

