Juan Carlos Nieves Torres, director de la Unidad de Firma Electrónica Avanzada del estado, llamó a que la IA en el sector público venga con capacitación, objetivos claros y responsabilidad humana. Su advertencia llega cuando Querétaro ya aplica IA en la justicia, la movilidad y la atención ciudadana, y mientras México sigue sin una ley que la regule.
Por: Emiliano Córdoba, periodista tech para LYPmultimedios
Querétaro, Qro., 10 de octubre de 2026.— Hay una pregunta que suena simple y que, en realidad, no tiene respuesta clara en ningún reglamento mexicano: si una herramienta de inteligencia artificial interviene en una decisión de gobierno y esa decisión sale mal, ¿quién responde? Esa es, en el fondo, la inquietud que planteó Juan Carlos Nieves Torres, director de la Unidad de Firma Electrónica Avanzada del Gobierno del Estado de Querétaro, al participar en el panel “Hackear la ley”, en Morelia Lab. Su mensaje no fue de entusiasmo tecnológico ni de rechazo: fue de condiciones. La IA, dijo, puede mejorar los servicios públicos y simplificar trámites, pero solo si llega acompañada de capacitación, objetivos claros y responsabilidad humana en la toma de decisiones. Lo interesante no es que lo diga. Es que lo diga aquí, donde el gobierno ya corre con IA.
Qué planteó el funcionario
Con más de 20 años en gobierno digital, Nieves Torres puso el acento en algo que suele quedar fuera de los anuncios: que incorporar una herramienta no basta. Según expuso, la adopción de IA en el sector público debe partir de identificar problemas concretos de la ciudadanía, y no de la tecnología como fin en sí misma. A partir de ahí, enumeró las condiciones que, a su juicio, faltan tanto como la tecnología sobra: preparar a los servidores públicos, establecer mecanismos de rendición de cuentas, y —el punto más delicado— definir quién es responsable de las decisiones en las que intervenga un algoritmo, además de proteger los derechos de las personas.
Desde su cargo actual, ligado a la identidad digital, la autenticidad de los documentos electrónicos y la trazabilidad de los actos de gobierno, subrayó que la conversación sobre IA no debe quedarse en lo que la tecnología puede hacer, sino en las condiciones institucionales, legales y humanas para usarla con responsabilidad. En resumen: que se pueda saber cómo se tomó una decisión y quién debe responder por ella.
Por qué su advertencia cae en el momento justo
Aquí entra el contexto que el boletín no desarrolla, y que vuelve su mensaje mucho más que una reflexión de foro. Querétaro no está debatiendo si usar IA en el gobierno: ya la usa, y en áreas sensibles. En enero, el Poder Judicial del estado activó “SON-IA”, una herramienta que apoya la elaboración de acuerdos y sentencias —con la aclaración oficial de que la decisión final sigue siendo humana—. En mayo, el municipio de la capital presentó a “Karla”, anunciada como la primera asistente de IA integrada formalmente a un gobierno municipal en México, con un periodo piloto de 90 días. La app CiudadQro incorporó atención ciudadana con IA, y en septiembre la Agencia de Movilidad anunció el uso de algoritmos para rediseñar rutas de transporte.
Es decir: cuando Nieves Torres pregunta quién responde por una decisión asistida por IA, no habla en abstracto. Habla de un estado donde una herramienta ya ayuda a redactar sentencias y a diseñar servicios que afectan a miles de personas. Por eso su llamado a la trazabilidad y la rendición de cuentas no es un freno a la innovación: es la pregunta que la velocidad del despliegue dejó pendiente.
Un matiz que conviene no pasar por alto
El propio funcionario introdujo una precisión que, leída con atención, dice bastante. Al recordar su participación en “Querétaro Digital” y en la conformación inicial de la Unidad de Inteligencia Artificial del Estado —además de un diplomado de la UNAM que capacitó a cerca de 70 servidores públicos—, aclaró que su intervención se concentró en el diseño y el arranque, mientras que la implementación y la evaluación de resultados quedaron fuera de sus responsabilidades.
Esa distinción es honesta y, al mismo tiempo, abre la pregunta periodística obvia: ¿se implementaron esas iniciativas?, ¿se evaluaron sus resultados?, ¿funcionaron? En el ciclo de las políticas de innovación, el anuncio y el arranque suelen tener reflectores; la evaluación, casi nunca. Dar seguimiento a esa segunda parte —qué pasó después del lanzamiento— es justo el trabajo que falta.
Quién regula esto (y la respuesta incómoda)
La pregunta de “¿quién responde?” tiene hoy una respuesta que debería inquietar: en México, casi nadie, todavía. El país llegó a finales de 2026 sin una Ley General de Inteligencia Artificial; el Congreso no ha dictaminado las iniciativas, y la regulación opera por parches —reformas a derechos de autor contra la clonación de voz e imagen, cambios laborales sobre algoritmos en plataformas—. No existe aún un marco que obligue a un gobierno a documentar cómo decidió un sistema automatizado ni a quién reclamarle si se equivocó.
Visto así, Nieves Torres no describe un riesgo futuro: describe el vacío presente. La identidad digital, la autenticidad documental y la trazabilidad que menciona desde su unidad son, precisamente, los cimientos que harían auditable una decisión de gobierno asistida por IA. Sin ellos, la promesa de “mejores servicios” avanza más rápido que la capacidad de rendir cuentas por ellos.
Qué falta por saberse
Tres cosas que seguiremos vigilando desde aquí: si las herramientas de IA que ya operan en el gobierno queretano —en la justicia, la movilidad y la atención ciudadana— cuentan con evaluaciones públicas de resultados, y no solo con anuncios de arranque; si el estado define, con reglas claras, quién responde cuando una decisión asistida por IA afecta a un ciudadano; y si el país avanza hacia un marco legal que convierta las buenas intenciones de responsabilidad en obligaciones verificables. Porque, como dejó ver el propio funcionario, la parte difícil de la inteligencia artificial en el gobierno no es encenderla. Es responder por lo que decide.
