美国OpenAI要把1000万个GPU连接起来做大模型

发布时间：2023-12-09 17:31:38 所属栏目：产品来源：DaWei

导读： 在今天上午举办的2023云栖大会上，百川智能创始人兼CEO王小川发表演讲称，今年年底之前，国内会有几家公司能够做到GPT3.5的水平，明年国内会有若干款超级应用。

百川在两个月时间就完成了

在今天上午举办的2023云栖大会上，百川智能创始人兼CEO王小川发表演讲称，今年年底之前，国内会有几家公司能够做到GPT3.5的水平，明年国内会有若干款超级应用。

百川在两个月时间就完成了第一个70亿参数的模型的发布，行业一般需要半年，比预期时间节省了三倍。在此基础上，百川还开发了一个新的数据库，这个数据库可以支持更多的数据，包括用户的历史记录、活动数据、销售数据等。

在大模型领域，确实得承认跟美国存在差距。他预计今年年底之前国内会有几家公司能够达到GPT 3.5的水平，到明年也有信心能够达到GPT4.0的水平，但是达到之后，可能很难去超越他们。

“他们正在设计一个把1000万颗GPU连在一起做模型的技术。咱们做GPT3.5的时候用了4000颗GPU，做GPT4的时候是25000颗，英伟达一年生产能力才100万颗，而OpenAI在设计把1000万个GPU连接起来，这样一种想法像登月一样。“

成立半年，百川智能便接连发布baichuan-7B/13B，Baichuan2-7B/13B四款开源可免费商用大模型及Baichuan-53B、Baichuan2-53B两款闭源大模型，平均每28天就会发布一款新的大模型。

据悉，Baichuan2-192K现已正式开启内测，以API（应用程序接口）调用的方式开放给核心合作方，目前已经与财经类媒体及律师事务所等机构达成了合作，将全球领先的长上下文能力应用到了传媒、金融、法律等具体场景当中，不久后将全面开放。

（编辑：威海站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!