
简介
近期,科技企业Databricks正式发布了通用大语言模型DBRX。该模型具有1320亿参数规模,被官方称为当前性能最突出的开源人工智能项目。
技术特色
该模型基于12万亿文本与代码标记进行了深度预训练,支持的最大上下文处理长度达到3.2万字符。在多项专业评估榜单中,其表现均超越同类产品,不过实际应用效果仍需进一步观察验证。
值得关注的是,该模型的研发周期长达数月,总投入成本约达1000万美元。开发者可通过开源平台获取相关技术资料。
分享地址:
https://www.databricks.com/blog/introducing-dbrx-new-state-art-open-llm
泡玩网