Hoy se ha dado a conocer la incorporación de incrustaciones binarias en las Amazon Titan Text Embeddings V2, ahora disponibles en las Amazon Bedrock Knowledge Bases y en Amazon OpenSearch Serverless. Esta nueva capacidad permitirá a las empresas desarrollar aplicaciones de Recuperación y Generación Aumentada (RAG) de manera más eficaz al optimizar el uso de memoria y reducir los costos asociados.
Las Amazon Titan Text Embeddings V2 ofrecen ahora la posibilidad de generar representaciones semánticas más ricas de documentos, párrafos y oraciones en dimensiones configurables de 1,024, 512 o 256 bits. Gracias a las incrustaciones binarias, los datos pueden almacenarse como vectores binarios, mejorando así tanto el almacenamiento como la computación de manera significativa.
Amazon OpenSearch Service ha introducido una modalidad sin servidor que optimiza la experiencia de búsqueda. Esta nueva característica es compatible con algoritmos de vecino más cercano tanto exactos como aproximados, lo que permite búsquedas más rápidas y almacenamiento de vectores más económico mediante índices binarios.
La eficacia de esta nueva funcionalidad ha sido validada con benchmarks en el conjunto de datos Massive Text Embedding Benchmark (MTEB), que demostraron una mejora de 25 veces en la latencia. Además, la precisión de recuperación se mantiene en un 98.5% con reordenamiento y en un 97% sin él, cifras que están a punto de igualar las obtenidas con incrustaciones de precisión completa.
Adicionalmente, pruebas realizadas con el algoritmo HNSW mostraron una reducción del 50% en las Unidades Computacionales de OpenSearch, lo cual supone un beneficio económico significativo. La utilización de distancias de Hamming refuerza la eficiencia comparada con los métodos tradicionales, que son más exigentes con los recursos computacionales.
Esta nueva funcionalidad ya está disponible en todas las regiones de AWS que soportan Amazon Bedrock y Amazon OpenSearch Serverless. Los usuarios pueden comenzar a experimentar con estos avances a través de la consola de Amazon Bedrock y participar activamente en la comunidad AWS para dar su feedback y participar en debates sobre inteligencia artificial generativa.
Para aquellos interesados en profundizar sobre Amazon Bedrock y Amazon OpenSearch Serverless, así como sobre la implementación de estas soluciones, se puede consultar la documentación oficial y las páginas de producto en el portal de AWS.
