El Futuro de la Productividad: NinjaTech AI y AWS Trainium

El Futuro de la Productividad: NinjaTech AI y AWS Trainium

El futuro de los agentes de productividad con NinjaTech AI y AWS Trainium es prometedor, ya que NinjaTech AI busca aumentar la productividad de las personas mediante agentes de inteligencia artificial (IA) que se encargan de tareas complejas y que consumen tiempo. Recientemente, lanzaron MyNinja.ai, uno de los primeros asistentes personales de IA multiagente del mundo, diseñado para facilitar la vida de los usuarios. Este asistente está compuesto por agentes especializados que pueden realizar tareas como programar reuniones, investigar en profundidad, generar código y ayudar con la redacción. Estos agentes descomponen tareas complicadas en soluciones ramificadas y aprenden de experiencias pasadas, operando de manera autónoma y asíncrona.

Para desarrollar un asistente personal eficaz, NinjaTech AI optó por crear múltiples modelos de lenguaje grande (LLM) que se optimizan para diversas tareas. Esta estrategia permite que los modelos trabajen en conjunto y ofrece precisión y capacidades que satisfacen a los usuarios. Además, la empresa necesitaba métodos escalables y económicos para entrenar estos modelos, lo que históricamente ha sido un desafío para las startups. En este artículo, se describe cómo se construyó el agente de productividad NinjaLLM, la columna vertebral de MyNinja.ai, utilizando chips AWS Trainium.

NinjaTech AI identificó la necesidad de múltiples modelos optimizados para tareas específicas, como el modelo de investigación profunda, el modelo de codificación profunda y el modelo asesor. Tras probar varios modelos de código abierto, decidieron afinar estos modelos para cumplir con sus requisitos específicos. Para ello, utilizaron un enfoque de ajuste fino conocido como Lima, creando un conjunto de datos de entrenamiento con aproximadamente 20 millones de tokens, enfocados en el formato y tono de salida. La generación inicial de datos sintéticos se realizó utilizando el modelo Llama 2 de Meta, seguido de un proceso de ajuste fino basado en la retroalimentación del usuario.

El entrenamiento se llevó a cabo en un clúster de instancias trn1.32xlarge para aprovechar los chips Trainium. Con un costo de menos de $1,000 por iteración y un tiempo de entrenamiento de menos de 3 horas, NinjaTech pudo optimizar sus modelos de manera rápida y económica, ahorrando cientos de miles de dólares en comparación con métodos tradicionales. La implementación de bibliotecas de entrenamiento distribuidas Neuron facilitó el ajuste fino y la mejora de los modelos, permitiendo una rápida transición al modelo Llama 3, que mejoró la precisión.

Para evaluar el rendimiento de los modelos, NinjaTech utilizó conjuntos de datos abiertos como HotPotQA y Natural Questions, logrando tasas de precisión del 62.22% y 58.84% respectivamente. A futuro, la empresa planea seguir mejorando sus modelos mediante el uso de ORPO para un mejor alineamiento de preferencias y la creación de un modelo de conjunto personalizado que simplifique la arquitectura de servicio y escalado.

En conclusión, NinjaTech AI se dedica a construir agentes de IA de próxima generación para aumentar la productividad de todos. Para democratizar el acceso a esta tecnología transformadora, es esencial contar con computación de alto rendimiento y modelos de código abierto. Los chips de IA diseñados específicamente por AWS y su arquitectura de entrenamiento hacen posible este objetivo. Para más información sobre cómo se desarrolló MyNinja.ai, se puede consultar el documento técnico disponible en su sitio web.

NinjaTech AI está revolucionando la productividad mediante agentes de IA especializados y el uso de AWS Trainium.

Fuente: Amazon.com | URL