3月15日凌晨,OpenAI正式发布了大家期待已久的GPT-4,很快就在中外科技圈刷屏了。
这款新的AI大模型确实拿出了一些新东西,不但理解能力、可靠性、输入处理长度上都有显著提高,还有一个重大进化——拥有了多模态的能力,简单说就是不仅能看懂文字,也能看懂图片了。
在OpenAI的技术分享和视频演示中,展示了GPT-4在各种标准下的性能提升,比如实事求是回答问题的可能性提高了40%;律师模拟考试成绩从ChatGPT的后10%,直接冲进了前10%,超过了大多数人;看图表完成数据分析、找到搞笑图片中的笑点也不在话下。
不少媒体可能受发布会演示的影响,注意力都集中在这些直观的指标上,不停渲染GPT-4的各种能力多强。
在我看来,这些都是AI技术调优下正常的性能提升,真正值得关注的,是实现图片和文字同时处理的多模态能力,这个能力的底层预示着的其实是「一切数据Token化」的新变革。
为什么这么说呢?
首先,如果你了解AI技术的进步趋势,就会明白今天的这些性能提升是必然的事情。
虽然OpenAI以竞争和安全为由,没有公布GPT-4的任何技术细节,只发布了份手机测评一样的《技术报告》(GPT-4 Technical Report)。
但从模型性能提升的情况看,理解能力、可靠性这几个关键指标的提高,主要是来自于AI模型算法架构和数据集的改进,简单说就是AI的工程调优。
我跟大家谈过AI大模型的「伸缩法则」,当时就提到了OpenAI和谷歌的Deep mind关于AI参数和数据关系的研究,简单说AI大模型中参数规模也不是越大越好,必须和数据匹配才行。第二天,谈Bing上线ChatGPT的时候(点击跳转阅读),继续和大家聊了,目前训练AI大模型的数据用到了1.4 万亿token,数据瓶颈摆在眼前,谷歌和OpenAI都在做算法架构上的优化。
了解这些,你就会明白为什么发布会前盛传,GPT-4参数超过100万亿的说法不靠谱,也就能理解性能提升是很正常的事情。
我可以这样说,未来所有的数据都会Token化,衡量数据质量的标准将不再是清晰、完整这些为人服务的指标,而是能拿来训练AI的数据才是好数据。
可以说,数据Token化,就相当于石油精炼成汽油的过程,会使得人工智能这个发动机得到广泛运用,最终无所不在。未来各个领域的人工智能水平,甚至能用Token化的数据量大小来做评估。
(作者为海银资本管理合伙人)
相关文章
猜你喜欢
成员 网址收录40405 企业收录2984 印章生成241958 电子证书1086 电子名片61 自媒体67729