Los desarrolladores que trabajan con aplicaciones de inteligencia artificial a menudo enfrentan el desafío de transformar datos no estructurados en formatos estructurados. Esta conversión es crucial para mejorar la comunicación entre máquinas, ya que permite que los resultados generados sean consumidos y procesados de manera más eficiente en usos posteriores. Tareas como la extracción de información de documentos, la creación de asistentes que extraen datos de APIs o el desarrollo de agentes que ejecutan acciones requieren modelos que produzcan resultados en formatos específicos.
Para abordar esta necesidad, se ha introducido una nueva técnica de decodificación restringida, que emplea modelos de base Amazon Nova. Esta innovación permite extraer datos de acuerdo con esquemas complejos, reduciendo los errores en más del 95%. Los desarrolladores ahora pueden confiar en esta técnica para garantizar que las salidas estructuradas sean precisas y efectivas.
Existen dos enfoques principales para implementar salidas estructuradas: la modificación del aviso del sistema y el uso de herramientas de configuración. Por ejemplo, en un escenario de soporte al cliente, se puede solicitar al modelo que genere una respuesta en formato JSON, especificando la estructura con la información y el sentimiento del usuario. Para lograr esto, el aviso del sistema debe adaptarse para incluir las estructuras esperadas.
El segundo enfoque involucra proporcionar una configuración de herramienta, que ofrece al modelo un API, una función de código o un esquema a través de la solicitud. Esta técnica es particularmente útil cuando se desarrollan aplicaciones que requieren salidas estructuradas, ya que permite definir un esquema específico que el modelo debe seguir.
Aunque ambos métodos son efectivos, la salida puede ser no determinística, lo que implica la posibilidad de errores. Se ha observado que la precisión del modelo disminuye conforme aumenta la complejidad del esquema. Para solucionar este problema, se ha implementado la decodificación restringida, una técnica basada en una gramática que limita los tokens posibles que un modelo puede generar en cada paso, diferenciándose así de las técnicas de notificación históricas.
Un punto clave en el uso de salidas estructuradas con Amazon Nova es la creación de una configuración de herramienta que define el esquema de salida esperado. Este proceso asegura que el modelo entienda cómo deben rellenarse los campos requeridos.
Una vez establecida la configuración de herramienta, esta se puede enviar junto con la receta solicitada a través de la API Conversar. La combinación del soporte nativo para herramientas y la decodificación restringida permite al modelo generar un esquema JSON completo y complejo, listo para su utilización en aplicaciones.
Esta evolución en la generación de salidas estructuradas con Amazon Nova representa un avance significativo para los desarrolladores, quienes ahora son capaces de construir sistemas de inteligencia artificial más precisos y confiables.
