H2O AI lanza Danube, un pequeño LLM para aplicaciones móviles

Hoy, H2O AI, EL negocio marcha tiene democratizar AI con A rango de Fuente abierta Y dueño herramientas, anuncio EL liberar de Danubio, A nuevo súper pequeño grande lengua modelo (LLM) para móvil dispositivos.

Fijado Después EL segundo más grande río dentro Europa, EL Fuente abierta modelo venir con 1.8 mil millones configuraciones Y Este dicho tiene fósforo O superar de la misma forma tamaño modelos a través A rango de natural lengua Tareas. Este pone Él dentro EL incluso categoría como fuerte ofrendas desde microsoft, Estabilidad AI Y Eleuther IA.

EL Cada hora de EL anuncio marcas Perfecto sentido. Empresas Edificio consumidor dispositivos están Razas tiene explorar EL potencial de fuera de linea generativo AI, O modelos correr en la zona seguro EL producto, donación usuarios rápido asistencia a través las funciones Y eliminar EL necesidad tiene llevar información afuera tiene EL nube.

"Nosotros están entusiasmado tiene liberar H2O-Danubio-1.8B como A portátil LLM seguro pequeño dispositivos como su teléfono inteligente… EL proliferación de más pequeño, costo más bajo material Y Más eficaz capacitación Ahora permitir modesto en tamaño modelos tiene estar accesible tiene A más largo audiencia… Nosotros creer H2O-Danubio-1.8B voluntad estar A juego cambiador para móvil fuera de linea aplicaciones," sri ambati, CEO Y cofundador de H2O, dicho dentro A declaración.

EL AI Impacto Recorrido – Nueva York

Bien estar dentro Nuevo york seguro FEBRERO 29 dentro Camaradería con microsoft tiene conversar cómo tiene balance riesgos Y recompensas de AI aplicaciones. Pedido A invitar tiene EL exclusivo evento a continuación.

Entonces que Danubio tiene justo ha sido anuncio, H2O quejas Él puede estar refinado tiene manejar A rango de natural lengua aplicaciones seguro pequeño dispositivos, incluído común sentido razonamiento, mientras leo comprensión, recapitulación Y traducción.

TIENE Formar EL mini modelo, EL negocio recopilación A mil billones fichas desde diverso la tela fuentes Y usado técnicas refinado desde Lama 2 Y Mistral modelos tiene mejorar Es generación habilidades.

"Nosotros equilibrado EL Lama 2 arquitectura para A total de alrededor 1.8 mil millones configuraciones. Nosotros (entonces) usado EL original Lama 2 tokenizador con A vocabulario tamaño de 32.000 Y cualificado NUESTRO modelo en alto tiene A contexto longitud de 16.384. Nosotros incorporado EL deslizar ventana atención desde Mistral con A tamaño de 4096", EL negocio nota entonces que describiendo EL modelo arquitectura seguro Mimos Cara.

Cuando probado seguro marcas, EL modelo estaba encontrar tiene estar llevar a cabo seguro por O mejor eso La mayor parte modelos dentro EL Parámetro 1-2B categoría.

Para ejemplo, dentro EL Hellaswag prueba puntería tiene evaluar común sentido natural lengua inferencia, Él llevado a cabo con A precisión de 69,58%, sesión justo detrás Estabilidad AI Estable M.L. 2 1.6 mil millones configuración modelo pre-entrenado seguro 2 mil billones fichas. De la misma forma, dentro EL Arco referencia para avance pregunta demandado, Él rangos tercero detrás microsoft Fi 1.5 (1,3 mil millones configuración modelo) Y Estable M.L. 2 con A precisión de 39,42%.

H2O tiene liberado Danubio-1.8B abajo A apache 2.0 Licencia para comercial usar. No importa cual equipo mirar tiene implementar EL modelo para A móvil usar caso puede descargar Él desde Mimos Confrontar Y llevar a cabo aplicación específica sintonia FINA.

TIENE hacer Este proceso Más fácil, EL negocio también planes tiene liberar adicional herramientas Pronto. Él tiene también liberado A escuchando al gato versión de EL modelo (