PANews informó el 18 de marzo que la compañía de inteligencia artificial de Musk, xAI, anunció que abriría los pesos y la arquitectura de su modelo experto híbrido de 314 mil millones de parámetros Grok-1. Grok-1 es un modelo de lenguaje grande entrenado desde cero por xAI con una arquitectura de modelo experto híbrido, donde el 25% del peso está activo en un token determinado. Los pesos del modelo base y la arquitectura de red ahora están abiertos bajo la licencia Apache 2.0. La fase de preentrenamiento de Grok-1 finalizó en octubre de 2023 y actualmente se está lanzando con puntos de control del modelo base en bruto y sin ajustes finos para ninguna aplicación específica. Los usuarios que estén interesados en utilizar el modelo pueden seguir la guía en el github.com/xai-org/grok.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
La compañía de inteligencia artificial de Musk, xAI, ha publicado oficialmente el código fuente de Grok-1
PANews informó el 18 de marzo que la compañía de inteligencia artificial de Musk, xAI, anunció que abriría los pesos y la arquitectura de su modelo experto híbrido de 314 mil millones de parámetros Grok-1. Grok-1 es un modelo de lenguaje grande entrenado desde cero por xAI con una arquitectura de modelo experto híbrido, donde el 25% del peso está activo en un token determinado. Los pesos del modelo base y la arquitectura de red ahora están abiertos bajo la licencia Apache 2.0. La fase de preentrenamiento de Grok-1 finalizó en octubre de 2023 y actualmente se está lanzando con puntos de control del modelo base en bruto y sin ajustes finos para ninguna aplicación específica. Los usuarios que estén interesados en utilizar el modelo pueden seguir la guía en el github.com/xai-org/grok.