Databricks推出最强开源大模型DBRX 1320亿参数AI模型分享

简介

近期,科技企业Databricks正式发布了通用大语言模型DBRX。该模型具有1320亿参数规模,被官方称为当前性能最突出的开源人工智能项目。

技术特色

该模型基于12万亿文本与代码标记进行了深度预训练,支持的最大上下文处理长度达到3.2万字符。在多项专业评估榜单中,其表现均超越同类产品,不过实际应用效果仍需进一步观察验证。

值得关注的是,该模型的研发周期长达数月,总投入成本约达1000万美元。开发者可通过开源平台获取相关技术资料。

分享地址:

https://www.databricks.com/blog/introducing-dbrx-new-state-art-open-llm

评论 抢沙发