Mistral AI ha dado un paso significativo en el mundo de la inteligencia artificial generativa al anunciar la disponibilidad de su modelo de lenguaje de veinticuatro mil millones de parámetros, Mistral-Small-24B-Instruct-2501. Este modelo ha sido optimizado específicamente para realizar tareas de generación de texto con baja latencia y ahora está accesible a través de Amazon SageMaker JumpStart y el Amazon Bedrock Marketplace. Estas plataformas son el punto de encuentro para desarrolladores que buscan descubrir, probar y utilizar una amplia variedad de modelos, desde los más populares hasta los especializados, además de los ya existentes en Amazon Bedrock.
El Mistral Small 3 (2501) se destaca por combinar un alto rendimiento con eficiencia computacional, siendo capaz de manejar una ventana de contexto de 32,000 tokens. Esta versión instruida del modelo ha sido especialmente diseñada para mejorar su habilidad de seguir instrucciones complejas y mantener conversaciones coherentes. Según la empresa, demuestra un rendimiento superior en áreas tales como programación, matemáticas y conocimiento general, haciéndolo ideal para aplicaciones de inteligencia artificial generativa que requieren un rendimiento robusto y respuestas rápidas.
Uno de los aspectos más destacados de este modelo es su eficacia en asistencia conversacional, pudiendo responder en menos de 100 milisegundos. Esto lo convierte en una opción excelente para automatizar servicios de atención al cliente y ofrecer asistencia interactiva. Con una precisión que supera el 81% en pruebas de comprensión de lenguaje multitarea, Mistral-Small-24B-Instruct-2501 se presenta como uno de los más eficientes de su categoría, capaz de competir con modelos más grandes pero ofreciendo un rendimiento más veloz.
Amazon SageMaker JumpStart proporciona a los usuarios acceso a una colección de modelos preentrenados para distintos casos de uso, como la escritura de contenido, generación de código y respuestas a preguntas. El nuevo marketplace facilita a los desarrolladores encontrar modelos adecuados a sus especificaciones, permitiendo filtrar por proveedor y modalidad.
Para implementar el modelo Mistral-Small-24B-Instruct-2501, los usuarios deben ingresar a la consola de Amazon Bedrock y buscar en el catálogo de modelos. El proceso de implementación guía a los usuarios en la selección de la instancia adecuada, configuración de seguridad y opciones de red, para finalmente proceder con el despliegue del modelo. Una vez implementado, las capacidades del modelo pueden ser probadas en un entorno interactivo.
La incorporación del Mistral-Small-24B-Instruct-2501 resalta la creciente relevancia de los modelos de lenguaje optimizados dentro de la inteligencia artificial generativa. Proporciona herramientas accesibles tanto para desarrolladores como para empresas que buscan mejorar su capacidad de interacción automatizada y contextual, de manera eficiente y eficaz.
