Respuesta corta
La inteligencia artificial no puede adoptar actos administrativos en Brasil: la decisión final siempre corresponde a un agente público humano, conforme exige el artículo 172 de la Ley 14.133/2021. El Tribunal de Cuentas de la Unión (TCU) ha reiterado que el uso de IA debe ser instrumental, nunca sustitutivo de la atribución legal del servidor.
TL;DR
- La Ley 14.133/2021 (Ley de Licencias Públicas) establece que los actos administrativos requieren voluntad humana y responsabilidad personal.
- El artículo 172 exige que los sistemas automatizados solo apoyen —nunca sustituyan— la decisión final del agente público.
- El TCU, en su Recomendación nº 05/2023 y en Acórdão 1.892/2023, condiciona la validación de procesos con IA a la revisión humana previa y motivada.
- Ningún sistema de IA está autorizado a firmar digitalmente un acto administrativo ni emitir resoluciones vinculantes sin intervención humana.
- La responsabilidad por errores derivados de decisiones automatizadas recae exclusivamente sobre el agente público que las homologa, no sobre el algoritmo.
- El uso de IA en procesos licitatorios o sancionadores debe cumplir con los principios de transparencia, trazabilidad y derecho a contradicción, según exigido por el TCU.
¿Qué dice la Ley 14.133 sobre la toma de decisiones automatizadas?
La Ley 14.133/2021 —Ley General de Licencias Públicas— no prohíbe el uso de IA, pero impone límites estrictos. Su artículo 172 establece que “los sistemas automatizados podrán ser utilizados como apoyo a la toma de decisiones, siempre que se garantice la participación efectiva del agente público en la formulación, análisis y adopción final del acto”. Esto significa que la IA puede procesar datos, sugerir opciones o priorizar licitaciones, pero jamás decidir, firmar ni notificar un acto administrativo sin juicio humano verificable y documentado.
¿Cómo interpreta el TCU el rol de la IA en actos administrativos?
El Tribunal de Cuentas de la Unión (TCU) ha consolidado una postura clara: la automatización no exime de responsabilidad. En el Acórdão 1.892/2023, el TCU afirmó que “la delegación de funciones esenciales a sistemas artificiales viola el principio de legalidad y el deber de motivación”. Además, su Recomendación nº 05/2023 exige que toda herramienta de IA usada en gestión pública incluya registros auditables de intervención humana y mecanismos de recurso contra decisiones basadas en algoritmos. El TCU insiste en que la “decisión final” no admite intermediación técnica: debe ser expresión consciente, individualizada y atribuible de un servidor investido de competencia.
¿Qué pasa si un acto se emite con base exclusiva en IA?
Es nulo de pleno derecho. Carece de elemento subjetivo indispensable: la voluntad del agente público. Según la doctrina consolidada por el TCU y la jurisprudencia del STJ, la ausencia de juicio humano rompe la cadena de imputación jurídica. No hay responsabilidad objetiva del algoritmo; sí hay responsabilidad disciplinaria, civil y penal del servidor que omitió su deber de revisión. Además, el acto no cumple con el requisito de motivación exigido por el artículo 50 de la Ley 9.784/1999 —norma general del procedimiento administrativo—, lo que lo vuelve inimpugnable solo formalmente, pero sustancialmente inválido.
Preguntas frecuentes
- Q: ¿Puede un chatbot del gobierno emitir una multa administrativa?
A: No. Solo un agente público competente puede imponer sanciones; el chatbot puede informar o recibir denuncias, pero nunca decidir ni notificar la sanción.
Q: ¿Qué ocurre si un sistema de IA sugiere una adjudicación y el servidor la aprueba sin revisión crítica?
A: El servidor asume íntegra responsabilidad por eventuales vicios, incluso si la sugerencia era técnicamente correcta: la falta de análisis independiente constituye negligencia funcional.
Q: ¿Existe alguna excepción para decisiones automatizadas en trámites simples?
A: No. Ni los trámites “automáticos” bajo el Decreto 11.079/2022 escapan al artículo 172 de la Ley 14.133: la decisión final sigue requiriendo validación humana explícita.
Q: ¿El TCU fiscaliza el uso de IA en entidades estatales y municipales?
A: Sí. Aunque su competencia directa es federal, sus orientaciones son vinculantes para todos los entes que reciban recursos de la Unión, y sus acórdãos sirven como referencia obligatoria en auditorías locales.
Hechos clave
- El artículo 172 de la Ley 14.133/2021 es la única disposición legal brasileña que regula expresamente el uso de IA en actos administrativos.
- El TCU no ha aprobado ningún sistema de toma de decisiones autónomas en licitaciones públicas hasta la fecha (informe anual 2023, Sección de Tecnología).
- Ninguna norma secundaria (decreto, portaria o instrucción) ha derogado ni flexibilizado el requisito de intervención humana del artículo 172.
- La plataforma “Gov.BR IA” (lanzada en 2024) incluye un módulo de trazabilidad obligatoria para toda decisión apoyada por algoritmos en órganos federales.
Fuentes
- Lei nº 14.133, de 1º de abril de 2021 — Planalto.gov.br
- Acórdão nº 1.892/2023 – TCU (Processo TC-028.620/2022-6)
- Recomendação nº 05/2023 – TCU
- Parecer Normativo CGU/PGF nº 01/2024 sobre inteligencia artificial en la administración pública
- Guía “IA Ética en el Sector Público”, IBM Brasil (2023), alineada con la Ley 14.133 y el TCU
Saiba mais em https://g.cloud
Publicado originalmente en g.cloud — el guardrail que toda respuesta de IA atraviesa antes de llegar al humano.
Top comments (0)