La inteligencia artificial generativa (GenAI) está revolucionando múltiples sectores, al agilizar operaciones y fomentar la innovación. Aunque las interacciones textuales mediante chats con GenAI son comunes, las aplicaciones prácticas en el mundo real a menudo dependen de la integración de datos estructurados, cruciales para APIs, bases de datos y otras tareas basadas en datos. Estos datos estructurados también potencian la inteligencia conversacional, ofreciendo resultados más precisos y útiles. No obstante, uno de los principales retos radica en la imprevisibilidad de los modelos de lenguaje de gran tamaño (LLMs), lo que dificulta la generación coherente de salidas estructuradas como JSON.
El problema surge porque el entrenamiento de los LLMs se concentra en texto no estructurado, como artículos o sitios web, con escasas muestras en formatos estructurados. Esta limitación afecta la precisión en la creación de salidas JSON, fundamentales para la integración eficaz en APIs y bases de datos. La habilidad de los modelos para reconocer tipos de datos y gestionar jerarquías complejas puede variar, influyendo en la elección del modelo más apropiado.
Para enfrentar estos desafíos, Amazon Bedrock propone dos soluciones innovadoras:
-
Ingeniería de prompts: Este enfoque sencillo permite generar salidas estructuradas mediante el uso de prompts bien diseñados.
- Uso de herramientas con la API Bedrock Converse: Este método avanzado ofrece un mayor control, consistencia e integración nativa de esquemas JSON.
Un ejemplo práctico de cómo esto funciona es el análisis de reseñas de clientes, donde Bedrock genera salidas como puntuaciones de sentimientos usando código Python simplificado. El proceso de ingeniería de prompts incluye pasos como configurar el cliente Bedrock, definir un esquema JSON, formular un prompt claro, incluir datos de reseñas e invocar Bedrock para procesar la respuesta.
Adicionalmente, la API Converse de Amazon Bedrock facilita conversaciones con modelos de IA generativa, permitiendo integrar el uso de herramientas y alineando las salidas con formatos predefinidos mediante esquemas JSON. Pruebas detalladas en los modelos Claude de Anthropic mostraron que todos lograron más del 93% de éxito en la generación de respuestas estructuradas, resultando el uso de herramientas más efectivo que la ingeniería de prompts bajo condiciones complejas.
En resumen, se han presentado dos métodos para generar respuestas estructuradas con Amazon Bedrock: la ingeniería de prompts y el uso de herramientas. Cada método tiene sus pros y contras, y su aplicabilidad depende de las necesidades específicas de los usuarios. Aprovechar al máximo la inteligencia artificial generativa en escenarios reales requiere incorporar datos estructurados, esenciales para APIs y otros trabajos basados en datos.
