El modelo trabaja con dos billones de parámetros, el doble de los que teóricamente usa el LLM de OpenAI
La iniciativa se une a la multimillonaria inversión que Amazon hizo en Anthropic en septiembre de 2023
Microsoft, Google y Facebook llevan mucho terreno ganado en la carrera por la inteligencia artificial, pero las otras dos grandes tecnológicas, Apple y Amazon, seguían rezagadas. Ahora una de ellas ha movido ficha y lo ha hecho a lo grande.
Olympus. Así se llama el gran modelo de lenguaje (LLM) en el que están trabajando en Amazon, y que según Reuters, que cita a fuentes cercanas al proyecto, tiene como objetivo rivalizar con los mejores modelos de OpenAI o de Alphabet.
Dos billones de parámetros. La ambición de Amazon aquí es enorme, como demuestra que según esas fuentes la empresa está haciendo uso de un modelo con dos billones de parámetros, una cifra asombrosa que se estima sería el doble de lo que por ejemplo se usa con GPT-4. EN GPT-3, por ejempplo, la cifra era de 175.000 millones, así que estamos ante un LLM que sería 10 órdenes de magnitud superior en este aspecto. Cuantos más parámetros, más preciso y potente es el modelo de lenguaje.
Más allá de Alexa. Quien lidera el equipo es Rohit Prasad, que antes dirigía el equipo de Alexa en Amazon y que reporta directamente al CEO, Andy Jassy. Prasad es el científico gente en la división de Inteligencia Artificial General (AGI) de Amazon, y ha fichado a investigadores que habían trabajado tanto en la IA de Alexa y en el quipo científico de Amazon para desarrollar sus modelos de entrenamiento.
Esfuerzos previos. Amazon ya contaba con un modelo menor llamado Titán, pero parecía no estar especialmente interesada en competir con otros LLMs. De hecho en abril anunciaron Bedrock, una API neutral y abierta que permitía a empresas y desarrolladores trabajar con distintos modelos usando la infraestructura de Amazon.
Y por si acaso, Anthropic. El desarrollo de Olympus se une a otro esfuerzo adicional que Amazon ha realizado recientemente: no solo está trabajando en su propio LLM, sino que ha invertido 4.000 millones de dólares en Anthropic, la empresa responsable del chatbot Claude.
Sin fecha estimada. No hay una fecha definida de lanzamiento de Olympus, pero según fuentes cercanas al proyecto la empresa cree que tener modelos de IA propios hará que su oferta en AWS (Amazon Web Services) sea más atractiva para clientes empresariales que quieran acceder a los modelos más potentes. El entrenamiento de Olympus requerirá sin duda recursos ingentes, y será interesante ver hasta dónde puede llegar la empresa.
Imagen | Amazon
Ver todos los comentarios en https://www.xataka.com
VER 3 Comentarios