自半导体出现,为电子产品定下重要基石,亦为科技和文明带来飞跃的进步。 而半导体行业有一金科玉律在近60年前由Intel创办人Gordon Moore所提出的摩尔定律Moore’s law。 时至今日,ChatGPT之父Sam Altman又持另一想法,就住AI时代提出了新版摩尔定律。
OpenAI CEO Sam Altman 「ChatGPT之父」在 twitter 发文提出新版摩尔定律,指全球 AI 的运算量每隔18个月就会提升一倍。 虽然内文并无详细解释,但仍有已引起不少网民留言及过千个 retweet 。
回到1965年,当时身为快捷半导体工程师的 Gordon Moore 的文章在电子学杂志发表,文章预言每隔18个月,半导体芯片上的晶体管和电阻数量就会以倍数增长,后来被称为摩尔定律 Moore’s law。 后续在1975年又再提交论文,将时间间隔修正为24个月,即是每两年半导体芯片密度增加一倍,同时成本降低一半。
而 ChatGPT 目前正使用 GPT-3 Model ,有过万亿的参数,并积累了1亿用户,每日活动超过1300万。 训练阶段时总算力消耗大约 3640 PF-days(即1PetaFLOP/s效率运作3640天),成本预计在每次500万美元。
未来若提升到GPT-4 Model将会有100万亿参数,但运算性能需要进一步的指数级提升。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END
暂无评论内容