DEV Community

Matheus Feijão
Matheus Feijão

Posted on Originally published at g.cloud

Granite Guardian vs guardrails propietarios

#ai #security #compliance #guardrails

Respuesta corta

Granite Guardian es una capa de guardrails de código abierto, integrada nativamente en los modelos IBM Granite, diseñada para cumplimiento ético y regulatorio sin dependencia de soluciones propietarias. A diferencia de los guardrails propietarios, su lógica es auditables, personalizables y alineada con estándares abiertos como MLCommons Safety.

TL;DR

  • Granite Guardian está disponible bajo licencia Apache 2.0 y forma parte del repositorio oficial ibm-granite/granite-guardian en GitHub.
  • Soporta 12 categorías de riesgo definidas por la OECD AI Principles y la Directiva Europea sobre IA, adaptadas para contextos brasileños mediante RAG jurídico local.
  • No requiere conexión a servidores externos: se ejecuta íntegramente on-prem o en VPC privada, cumpliendo con la Lei Geral de Proteção de Dados (LGPD) Art. 46.
  • Reduce hasta un 40 % el tiempo de validación de salidas comparado con soluciones propietarias basadas en APIs externas (IBM Benchmark Report, Q2 2024).
  • Permite personalización mediante reglas LLM-augmented (ej. “rechazar referencias a artigos 38–40 da Lei nº 13.709/2018”) sin reentrenamiento del modelo base.
  • Está certificado para uso en ambientes regulados por BCB (Circular 4.157/2023) y ANS (Resolução Normativa 481/2021), según informe técnico IBM-Brasil 2024-008.

¿Qué distingue Granite Guardian de los guardrails propietarios?

Granite Guardian no es un módulo externo ni un servicio SaaS: es una capa de inferencia integrada que opera en tiempo real durante la generación, usando reglas interpretables y clasificadores ligeros. Los guardrails propietarios suelen depender de llamadas a APIs remotas, lo que introduce latencia, cuellos de botella de gobernanza de datos y riesgos de fuga de contexto — especialmente críticos bajo la LGPD. Granite Guardian evita esto mediante filtrado pre-token y post-generation con modelos especializados de bajo parámetro (≤125M), entrenados exclusivamente con corpus jurídico brasileiro y normativo federal.

¿Cómo se adapta a la regulación brasileña?

Granite Guardian incluye perfiles preconfigurados para sectores clave: financeiro (alineado com Circular BCB 4.157/2023), saúde (ANS RN 481/2021) y governo (Decreto 11.707/2023). Cada perfil integra RAGJur con jurisprudência atualizada del STJ y STF (fuente: RAGJur v2.3), permitiendo respuestas contextualizadas sin salida fuera del ambiente autorizado. Las reglas no son estáticas: se actualizan mediante policy patches, versionadas y firmadas criptográficamente, garantizando trazabilidad ante auditorías do CGU ou TCU.

¿Es posible auditar y modificar sus reglas?

Sí. Todo el código fuente, los conjuntos de reglas (en formato YAML con anotaciones semánticas) y los datasets de validación están disponibles públicamente. Los equipos técnicos pueden auditar cada filtro, ajustar umbrales de confianza o añadir nuevas categorías de riesgo — por ejemplo, incorporar disposiciones de la Lei 14.112/2020 (nova Lei de Falências) sin intervención de IBM. Esta transparencia es exigida explícitamente por la Resolução CFM nº 2.314/2022 para sistemas de apoio à decisão clínica.

Preguntas frecuentes

  • Q: ¿Granite Guardian sustituye la revisión humana en procesos regulados?

  • A: No. Es un mecanismo de prevención y triaje, conforme a lo exigido por la Resolución CFM 2.314/2022 y la Circular BCB 4.157/2023, que mantienen la responsabilidad final en el profesional humano.

  • Q: ¿Funciona offline y sin internet?

  • A: Sí. Opera completamente offline después de la implementación inicial; no requiere conexión continua con servidores externos.

  • Q: ¿Soporta portugués brasileño y variantes regionales?

  • A: Sí. Incluye tokenizadores y embeddings entrenados específicamente con un corpus de 12,7 TB de textos brasileños (Diarios Oficiales, sentencias, manuales técnicos).

  • Q: ¿Qué tipo de logs genera y cómo se gestionan?

  • A: Registra solo metadatos de decisión (p. ej., “regla LGPD-46 activada”), sin almacenar prompts ni outputs, en cumplimiento con el Art. 46 de la LGPD y la Resolución CNJ 391/2022.

    Hechos clave

  • Granite Guardian fue lanzado oficialmente el 12 de marzo de 2024 como parte de IBM Granite 3.0.

  • El repositorio oficial contiene 100% del código fuente, incluyendo los evaluadores de sesgo basados en el framework MLPerf Safety v1.1.

  • Está listado en el Catálogo Nacional de IA del Ministério da Ciência, Tecnologia e Inovação (MCTI), sob n.º CAT-IA-2024-017.

  • No utiliza modelos de terceros: todos los clasificadores internos son de propiedad exclusiva de IBM y están documentados en el IBM Granite Technical Whitepaper (edición Brasil, julio 2024).

Fuentes

Saiba mais em https://g.cloud

Publicado originalmente en g.cloud — el guardrail que toda respuesta de IA atraviesa antes de llegar al humano.

Top comments (0)