Es fácil poner un chatbot o un modelo de IA en producción. Es más difícil saber si trata igual a todos los usuarios, si puedes explicar sus respuestas y si alguien puede frenarlo cuando se equivoca. Esas preguntas no son un tema de ética abstracta. Son decisiones de diseño, como elegir una base de datos o un esquema de red.
AWS ordena esas preguntas en un conjunto de dimensiones de la IA responsable. En este artículo las repaso una por una, con un ejemplo cotidiano y con las herramientas de AWS que ayudan a aplicarlas. El marco sale de la página oficial de IA responsable de AWS. Los ejemplos son míos.
Las 8 dimensiones de la IA responsable según AWS
AWS define la IA responsable con un conjunto básico de dimensiones que evalúa y actualiza a medida que evoluciona la tecnología. Hoy son ocho. Para los ejemplos imagina un asistente de soporte de una tienda online que usa IA generativa.
- Equidad: considerar las repercusiones en los distintos grupos de partes interesadas. Ejemplo: revisar si el asistente responde con la misma calidad en distintos idiomas o perfiles de cliente.
- Capacidad de explicación: comprender y evaluar los resultados del sistema. Ejemplo: si el modelo recomienda rechazar un reembolso, el equipo puede ver qué factores influyeron.
- Privacidad y seguridad: obtener, utilizar y proteger los datos y los modelos de manera adecuada. Ejemplo: no enviar datos personales al prompt si no hacen falta, y cifrar los datos de entrenamiento y los registros.
- Seguridad: evitar resultados dañinos del sistema y el uso indebido. Aquí se trata de los daños que puede causar la salida del modelo, no de la protección de los datos de la dimensión anterior. Ejemplo: que el asistente no genere contenido ofensivo ni dé consejos fuera de su ámbito.
- Capacidad de control: disponer de mecanismos para supervisar y dirigir el comportamiento del sistema de IA. Ejemplo: un interruptor para desactivar una función y una persona que apruebe los reembolsos de importe alto.
- Veracidad y solidez: lograr resultados correctos, incluso con información inesperada o contradictoria. Ejemplo: que el asistente no invente una política de devoluciones cuando el cliente escribe con errores o hace preguntas ambiguas.
- Gobernanza: incorporar las prácticas recomendadas en la cadena de suministro de IA, como los proveedores y los implementadores. Ejemplo: documentar qué modelo usas, quién lo aprobó y qué limitaciones declara su proveedor.
- Transparencia: permitir a las partes interesadas tomar decisiones informadas sobre su interacción con un sistema de IA. Ejemplo: avisar al usuario de que habla con una IA y de qué puede y qué no puede hacer.
AWS plantea estas dimensiones como propiedades técnicas presentes en todo sistema de IA. A ti te toca tomar decisiones de diseño deliberadas según tu caso de uso. Un asistente de recomendaciones de películas y un sistema que apoya decisiones médicas no necesitan el mismo nivel de control en cada dimensión.
Herramientas de AWS que ayudan a aplicarlas
La página de AWS agrupa sus herramientas en cinco áreas: medidas de protección, evaluación del modelo, sesgo y capacidad de explicación, intervención humana y gobernanza. La columna "Dimensiones relacionadas" es mi propia lectura para orientarte. No forma parte del marco oficial.
| Herramienta | Qué hace según AWS | Dimensiones relacionadas |
|---|---|---|
| Barreras de protección de Amazon Bedrock (Guardrails) | Permiten configurar medidas de seguridad para filtrar contenido dañino de texto e imagen, ocultar información confidencial y detectar alucinaciones | Seguridad, privacidad y seguridad, veracidad y solidez |
| Evaluación de modelos en Amazon Bedrock, SageMaker Clarify y fmeval | Sirven para evaluar, comparar y elegir modelos con métricas como precisión, solidez y toxicidad | Veracidad y solidez, seguridad |
| Amazon SageMaker Clarify | Detecta posibles sesgos al preparar los datos, tras entrenar el modelo y en el modelo desplegado, y ayuda a entender su comportamiento | Equidad, capacidad de explicación, transparencia |
| Amazon SageMaker Model Monitor y SageMaker Ground Truth | El primero avisa de predicciones inexactas en modelos desplegados. El segundo incorpora comentarios humanos durante el ciclo de vida del ML | Capacidad de control, veracidad y solidez |
| Gobernanza de ML de Amazon SageMaker | Da más control y visibilidad sobre los modelos, y reúne en un solo lugar su información y comportamiento, como el sesgo | Gobernanza, transparencia |
| Fichas de servicio de IA de AWS | Reúnen casos de uso y limitaciones previstos, opciones de diseño de IA responsable y prácticas de optimización de rendimiento de los servicios y modelos de AWS | Transparencia, gobernanza |
Cómo empezar sin frenar al equipo
AWS recomienda integrar la IA responsable desde el primer día y en todo el ciclo de vida. Además, la perspectiva de IA responsable de AWS Well-Architected ofrece prácticas recomendadas para diseño, desarrollo y operación. Un recorrido sencillo, que es una propuesta mía, podría ser este:
- Describe el caso de uso y quiénes pueden verse afectados por sus resultados.
- Recorre las 8 dimensiones y anota para cada una el riesgo principal y la decisión de diseño que tomas.
- Evalúa los modelos candidatos con tus propios casos de prueba antes de elegir uno.
- Añade protecciones configurables y define dónde interviene una persona.
- Monitorea en producción y revisa la tabla cuando cambie el modelo, los datos o el caso de uso.
Esta semana, elige un sistema de IA que ya tengas en marcha y completa una tabla de 8 filas, una por dimensión, con el riesgo, la medida actual y el responsable. Las filas vacías te dirán por dónde empezar.
Top comments (0)