En el tercer día de AWS re:Invent 2024, Dr. Swami Sivasubramanian subió al escenario para revelar los avances que marcan el rumbo de la inteligencia artificial (IA) y el machine learning (ML) en la nube. Este año, el Dr. Swami se centró en democratizar el acceso a herramientas avanzadas de IA, optimizar recursos para modelos generativos y ampliar la disponibilidad de tecnología en sectores educativos desatendidos. Aquí te contamos los detalles más destacados.
Amazon SageMaker HyperPod: Flexibilidad y Gobernanza para Modelos Generativos
La plataforma Amazon SageMaker HyperPod introduce dos capacidades transformadoras que prometen facilitar el desarrollo y entrenamiento de modelos generativos, ajustándose tanto a las necesidades técnicas como a las financieras de las organizaciones.
Nota: Si queréis conocer más sobre HyperPod desde la perspectiva técnica, os invitamos a explorar esta entrada de blog donde explicamos, paso a paso, cómo desplegar y sacar el máximo partido a este servicio.
Planes de Entrenamiento Flexibles
Con los nuevos planes de entrenamiento flexibles, SageMaker HyperPod permite planificar y ejecutar el entrenamiento de modelos generativos adaptándose a tus plazos y presupuestos. Esto significa que las empresas ahora pueden gestionar entrenamientos complejos con plazos predecibles y sin superar los costes planificados.
-
Ventajas:
- Distribución optimizada para entrenamientos resilientes y de alto rendimiento.
- Supervisión mejorada para garantizar que los modelos se ajusten a las métricas deseadas.
- Mayor control sobre la inversión en infraestructura.
Gobernanza de Tareas
El nuevo sistema de gobernanza centralizada permite priorizar tareas críticas y optimizar el uso de recursos computacionales. Esta capacidad reduce los costes del desarrollo de modelos hasta un 40%, asegurando un uso eficiente de los recursos en cada etapa del ciclo de vida del modelo.
-
Puntos destacados:
- Visibilidad completa sobre la asignación de recursos.
- Control preciso para garantizar la priorización de las tareas más importantes.
- Mejora en la utilización de aceleradores para reducir desperdicio de recursos.
Amazon Bedrock: Una Plataforma Más Completa y Flexible
Amazon Bedrock, la plataforma para el desarrollo de aplicaciones de IA generativa, sigue creciendo con nuevas funcionalidades que prometen mejorar la forma en que desarrollamos y utilizamos modelos fundacionales.
Marketplace de Amazon Bedrock
Con más de 100 modelos fundacionales disponibles, el nuevo Amazon Bedrock Marketplace permite a los desarrolladores acceder a modelos públicos y propietarios desde una interfaz unificada. Esto simplifica la experimentación y despliegue, optimizando la selección de modelos para casos específicos de uso.
-
Lo que debes recordar:
- Modelos compatibles con APIs unificadas y herramientas avanzadas como agentes, bases de conocimiento y guardrails.
- Opciones para personalizar el número y tipo de instancias SageMaker en los despliegues.
Prompt Caching e Intelligent Prompt Routing
Dos nuevas capacidades permiten reducir significativamente los costes y la latencia en aplicaciones de IA generativa:
- Prompt Caching: Ahorra hasta un 90% de costes y un 85% de latencia al reutilizar prompts frecuentes en las llamadas a la API.
- Intelligent Prompt Routing: Automatiza la selección del modelo más eficiente dentro de una familia para cada solicitud, optimizando costes y calidad de respuesta.
GraphRAG: Respuestas Más Precisas con Grafos de Conocimiento
Amazon Bedrock Knowledge Bases ahora incluye soporte para GraphRAG, una nueva capacidad diseñada para simplificar la creación de sistemas de generación de respuestas aumentadas con recuperación (RAG) que integran grafos de conocimiento. Esta funcionalidad, respaldada por Amazon Neptune, permite generar grafos automáticamente a partir de diversas fuentes de datos, estableciendo relaciones claras entre ellas sin necesidad de experiencia previa en grafos.
Con GraphRAG, los desarrolladores pueden construir aplicaciones de IA generativa mucho más completas con una sola llamada API, mejorando la relevancia de las respuestas al conectar datos dispersos de manera eficiente.
Nuevos Modelos y Asociaciones
- Stability AI: Modelos de texto a imagen de última generación, ideales para contenido visual de alta velocidad.
- Luma AI: Modelo multimodal que fomenta la creatividad en industrias como el diseño y el entretenimiento.
- poolside: Asistente generativo que se integra directamente en los entornos de desarrollo (IDE), optimizando flujos de trabajo.
Amazon Q Developer y QuickSight: IA para Decisiones Empresariales
Las capacidades de Amazon Q Developer ahora están disponibles en SageMaker Canvas, permitiendo a usuarios de todos los niveles de experiencia construir modelos de machine learning utilizando lenguaje natural. En QuickSight, las nuevas funcionalidades de análisis de escenarios guiados simplifican la toma de decisiones basada en datos, acelerando los procesos empresariales.
Compromiso con la Educación: AWS Education Equity Initiative
Amazon también destacó su compromiso con la equidad educativa mediante la AWS Education Equity Initiative, una inversión a cinco años para expandir el acceso a tecnologías en comunidades desatendidas. Este programa busca derribar barreras y potenciar a organizaciones educativas con recursos de IA y computación en la nube.
Conclusión
La keynote de Swami resaltó un claro compromiso de AWS por democratizar el acceso a la tecnología y empoderar a empresas y organizaciones. Desde SageMaker HyperPod hasta Amazon Bedrock, cada nueva funcionalidad presentada refuerza la promesa de hacer que la IA y el machine learning sean más accesibles, escalables y efectivos para todos.
¿Quieres explorar más sobre estas novedades? Consulta la keynote completa aquí:
Top comments (0)