ChatGPT 之父提出新“摩尔定律”,每 18 个月 AI 运算量提升 1 倍

图片[1]-ChatGPT 之父提出新“摩尔定律”,每 18 个月 AI 运算量提升 1 倍-弦外音

自半导体出现,为电子产品定下重要基石,亦为科技和文明带来飞跃的进步。 而半导体行业有一金科玉律在近60年前由Intel创办人Gordon Moore所提出的摩尔定律Moore’s law。 时至今日,ChatGPT之父Sam Altman又持另一想法,就住AI时代提出了新版摩尔定律。

OpenAI CEO Sam Altman 「ChatGPT之父」在 twitter 发文提出新版摩尔定律,指全球 AI 的运算量每隔18个月就会提升一倍。 虽然内文并无详细解释,但仍有已引起不少网民留言及过千个 retweet 。

回到1965年,当时身为快捷半导体工程师的 Gordon Moore 的文章在电子学杂志发表,文章预言每隔18个月,半导体芯片上的晶体管和电阻数量就会以倍数增长,后来被称为摩尔定律 Moore’s law。 后续在1975年又再提交论文,将时间间隔修正为24个月,即是每两年半导体芯片密度增加一倍,同时成本降低一半。

而 ChatGPT 目前正使用 GPT-3 Model ,有过万亿的参数,并积累了1亿用户,每日活动超过1300万。 训练阶段时总算力消耗大约 3640 PF-days(即1PetaFLOP/s效率运作3640天),成本预计在每次500万美元。

未来若提升到GPT-4 Model将会有100万亿参数,但运算性能需要进一步的指数级提升。

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容