马斯克的xAI推出Grok-1.5 拥有更强大的推理能力

2024-03-29 17:51:01   |   弘乐   |   121

3月29日,马斯克旗下人工智能公司 xAI 今日在其官方博客中宣布,他们正式推出了最新版本的语言模型 Grok-1.5。这一版本的 Grok-1.5 带来了许多改进,其中包括改进的推理能力和更长的上下文长度,为用户提供了更加强大和智能的语言处理能力。

Grok-1.5 的最显著改进之一是其在编码和数学相关任务中的表现。据官方测试数据显示,在 MATH 基准测试中,Grok-1.5 取得了50.6%的成绩,在 GSM8K 基准测试中取得了90%的成绩,展现出了在处理数学问题上的出色能力。这些基准测试覆盖了广泛的小学到高中竞赛问题,显示了 Grok-1.5 在数学领域的强大表现。此外,在 HumanEval 基准测试中,评估其代码生成和问题解决能力时,Grok-1.5 的得分达到了74.1%,进一步证明了其在语言理解和推理方面的优越性。

除了在任务表现上的提升外,Grok-1.5 还具备了更长的上下文理解能力。新版本的 Grok 能够在其上下文窗口内处理多达128k tokens的长上下文,这相当于其上下文长度的16倍。这一改进使得 Grok 能够更好地理解长文档中的信息,从而提升了其在处理复杂语言任务时的效率和准确性。

据铋读网了解,Grok-1.5 是基于 JAX、Rust 和 Kubernetes 构建的,采用了自定义分布式训练框架。自定义训练协调器能够自动检测到有问题的节点并将其从训练作业中剔除,以确保训练过程的稳定性和可靠性。此外,xAI 还对检查点、数据加载和训练作业重新启动进行了优化,最大限度地减少了在发生故障时的停机时间。

目前,Grok-1.5 将在未来几天内在 xAI 的平台上向早期测试人员和现有的 Grok 用户推出。这一更新将为用户提供更加强大、智能和稳定的语言处理能力,助力他们在各种复杂任务中取得更好的成果。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字、图片等内容的真实性、完整性、及时性本站不作任何保证或承诺,请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时发送相关信息至bireading@163.com,本站将会在48小时内处理完毕。

马斯克的xAI推出Grok-1.5 拥有更强大的推理能力

2024-03-29 17:51:01 浏览量: 121 作者: 弘乐

3月29日,马斯克旗下人工智能公司 xAI 今日在其官方博客中宣布,他们正式推出了最新版本的语言模型 Grok-1.5。这一版本的 Grok-1.5 带来了许多改进,其中包括改进的推理能力和更长的上下文长度,为用户提供了更加强大和智能的语言处理能力。

Grok-1.5 的最显著改进之一是其在编码和数学相关任务中的表现。据官方测试数据显示,在 MATH 基准测试中,Grok-1.5 取得了50.6%的成绩,在 GSM8K 基准测试中取得了90%的成绩,展现出了在处理数学问题上的出色能力。这些基准测试覆盖了广泛的小学到高中竞赛问题,显示了 Grok-1.5 在数学领域的强大表现。此外,在 HumanEval 基准测试中,评估其代码生成和问题解决能力时,Grok-1.5 的得分达到了74.1%,进一步证明了其在语言理解和推理方面的优越性。

除了在任务表现上的提升外,Grok-1.5 还具备了更长的上下文理解能力。新版本的 Grok 能够在其上下文窗口内处理多达128k tokens的长上下文,这相当于其上下文长度的16倍。这一改进使得 Grok 能够更好地理解长文档中的信息,从而提升了其在处理复杂语言任务时的效率和准确性。

据铋读网了解,Grok-1.5 是基于 JAX、Rust 和 Kubernetes 构建的,采用了自定义分布式训练框架。自定义训练协调器能够自动检测到有问题的节点并将其从训练作业中剔除,以确保训练过程的稳定性和可靠性。此外,xAI 还对检查点、数据加载和训练作业重新启动进行了优化,最大限度地减少了在发生故障时的停机时间。

目前,Grok-1.5 将在未来几天内在 xAI 的平台上向早期测试人员和现有的 Grok 用户推出。这一更新将为用户提供更加强大、智能和稳定的语言处理能力,助力他们在各种复杂任务中取得更好的成果。

,

Copyright ©2018 铋读网 All Rights Reserved.

京ICP备18051707号

京公网安备 11011302001633号