RedPajama replica el conjunto de datos de LLaMA para crear LLM de código abierto de última generación
Únase a altos ejecutivos en San Francisco los días 11 y 12 de julio para conocer cómo los líderes están integrando y optimizando las inversiones en IA para lograr el éxito. Más información
¿Pensó que las referencias de IA de código abierto a los camélidos habían terminado? Piénselo de nuevo: ayer, RedPajama anunció ayer, Together, una empresa con sede en Menlo Park, California, centrada en la creación de patrones descentralizados en la nube y de código abierto (sí, como Llama Llama Red Pajama).
"En muchos sentidos, la IA está viviendo su momento Linux", dijo la empresa en una publicación de blog, vinculada a una publicación de enero escrita por Chris Re, cofundador de Together, profesor asociado en Stanford y cofundador de SambaNova. , Snorkel.ai y Factory.
RedPajama es un proyecto de colaboración entre Together, Ontocord.ai, ETH DS3Lab, Stanford CRFM, Hazy Research y MILA Quebec AI Institute para crear Large Language Models (LLM) de código abierto. Su esfuerzo comenzó con el lanzamiento ayer de un conjunto de datos de 1,2 billones de tokens que sigue la receta de LLaMA. Los datos permiten que cualquier organización entrene previamente modelos que se pueden licenciar opcionalmente. El conjunto de datos completo está disponible en Hugging Face y los usuarios pueden reproducir los resultados con los scripts de Apache 2.0 disponibles en Github.
LLaMA es un LLM fundamental de última generación lanzado en febrero por Meta con acceso seguro a los investigadores. En las últimas semanas se han lanzado varios otros modelos basados en LLaMA, incluidos Alpaca, Vicuna y Koala, pero estos modelos no están disponibles para uso comercial. También hubo algo de drama en LLaMA cuando se filtró el modelo de LLaMA en 4chan.
EventoTransformar 2023
Únase a nosotros en San Francisco los días 11 y 12 de julio, donde los altos ejecutivos hablarán sobre cómo han integrado y optimizado las inversiones en IA para lograr el éxito y cómo evitar errores comunes.
Regístrate ahoraEn las próximas semanas, Together lanzará un conjunto completo de LLM y compilaciones adaptadas a las instrucciones basadas en el conjunto de datos de RedPajama. La compañía señaló que los próximos modelos serán...
Únase a altos ejecutivos en San Francisco los días 11 y 12 de julio para conocer cómo los líderes están integrando y optimizando las inversiones en IA para lograr el éxito. Más información
¿Pensó que las referencias de IA de código abierto a los camélidos habían terminado? Piénselo de nuevo: ayer, RedPajama anunció ayer, Together, una empresa con sede en Menlo Park, California, centrada en la creación de patrones descentralizados en la nube y de código abierto (sí, como Llama Llama Red Pajama).
"En muchos sentidos, la IA está viviendo su momento Linux", dijo la empresa en una publicación de blog, vinculada a una publicación de enero escrita por Chris Re, cofundador de Together, profesor asociado en Stanford y cofundador de SambaNova. , Snorkel.ai y Factory.
RedPajama es un proyecto de colaboración entre Together, Ontocord.ai, ETH DS3Lab, Stanford CRFM, Hazy Research y MILA Quebec AI Institute para crear Large Language Models (LLM) de código abierto. Su esfuerzo comenzó con el lanzamiento ayer de un conjunto de datos de 1,2 billones de tokens que sigue la receta de LLaMA. Los datos permiten que cualquier organización entrene previamente modelos que se pueden licenciar opcionalmente. El conjunto de datos completo está disponible en Hugging Face y los usuarios pueden reproducir los resultados con los scripts de Apache 2.0 disponibles en Github.
LLaMA es un LLM fundamental de última generación lanzado en febrero por Meta con acceso seguro a los investigadores. En las últimas semanas se han lanzado varios otros modelos basados en LLaMA, incluidos Alpaca, Vicuna y Koala, pero estos modelos no están disponibles para uso comercial. También hubo algo de drama en LLaMA cuando se filtró el modelo de LLaMA en 4chan.
EventoTransformar 2023
Únase a nosotros en San Francisco los días 11 y 12 de julio, donde los altos ejecutivos hablarán sobre cómo han integrado y optimizado las inversiones en IA para lograr el éxito y cómo evitar errores comunes.
Regístrate ahoraEn las próximas semanas, Together lanzará un conjunto completo de LLM y compilaciones adaptadas a las instrucciones basadas en el conjunto de datos de RedPajama. La compañía señaló que los próximos modelos serán...
What's Your Reaction?
