搜狐科技《思想大爆炸——对话科学家》栏目首期,对话中国工程院院士、中科院计算所研究员、中国计算机学会常务理事孙凝晖。
嘉宾简介
孙凝晖,计算机系统结构专家,主要从事高性能计算机研究,其主持研制的曙光高性能计算机打破国外产品的垄断。
划重点
1、ChatGPT为什么没诞生在中国?美国现在是整个信息技术的中心,几乎所有重大的发明都诞生在美国。
2、超算遇到了天花板,即使突破了光、量子计算、类脑计算,也解决不了通用计算的问题。
3、人类发展历史上有寒武纪大爆炸,科学的发展也类似,都是不均匀的。现在我们到了停滞期。
4、华为嘴里的数学家,更像是技术员,只是把数学当做一个工具,用来解决工程问题、解决技术问题,这和科学里面的数学不是一个概念。
5、科学是从西方传来的,我们没有这个传统,就像美国人没有打乒乓球的传统。我们成体系、成规模做基础研究,也就是二十多年,所以要多点耐心。
出品 | 搜狐科技
作者 | 张雅婷
编辑 | 杨锦
随着GPT-4、ChatGPT的推出,OpenAI凭借一己之力引爆科技圈。有业内人士评价称,一种革命性的服务正在路上。
展开全文
“洛夫莱斯夫人的异议”——机器无法像人脑一样工作,似乎变得不再那么重要。毕竟,GPT-4在各种专业和学术基准上表现出人类水平,比如在法律考试中可以打败90%的人类。这意味着,即使机器不像人类一样思考,也能凭借精妙的算法、强大的算力、超大规模的数据量,在特定领域超过人类,从而辅助甚至替代人类工作。
在这场AI浪潮之巅,算力的重要性被提升到前所未有的高度,以ChatGPT为例,有数据显示其总算力消耗约为3640PF-days(即每秒一千万亿次计算,运行3640个整日)。
作为生产力之源,算力像是虔诚科技信徒手中的“入场券”,决定着他们能否奔赴这场革命最前线。有人尖锐地指出,ChatGPT、GPT-4之所以没有诞生在中国,是因为先进芯片被“卡脖子”,中美头部企业之间的算力差异。
“为什么会诞生在中国?”孙凝晖在接受搜狐科技专访时直言,美国现在是整个信息技术的中心,几乎所有重大的发明都诞生在美国。
他表示,问这个问题就好像说,为什么去年足球世界杯的冠军是阿根廷不是中国?
在部分技术受到外部限制的背景下,国内尝试提升算力资源覆盖的广度、深度,降低算力使用成本。建设算力网的大背景下,去年“东数西算”工程全面启动,目标要让算力像水、电一样随取随用。
“算力网的本质,是把算力变成一种基础设施化的服务提供给用户。”孙凝晖表示,随着对数据处理的需求迎来爆发,以及以深度学习和大模型为代表的人工智能技术飞速发展,我们对计算的需求更加旺盛,需要让计算能力变成普及的、低门槛的、易用的服务。
比如,超级计算机凭借极快的处理速度、极大的存储容量,原本主要为国家重大项目服务,使用门槛较高。在同样能力下,超算比智算差不多贵10倍。“但随着超算接入算力网,更普及地提供服务,将对国家创新能力提升有很大帮助。”
他认为,就像过去我们相信信息共享会改变各行各业,其实互联网本质就是信息共享,让信息更容易产生、传输、搜索、使用。如果我们相信数据的加工、使用变得很重要、很基础的话,算力网会带来和互联网差不多的改变。
人们对算力的需求呈指数级增长,但算力的增长并非永无止境。自经典计算机发明以来,算力增长一直遵循摩尔定律,然而随着芯片上晶体管数量增长逐渐逼近物理极限,算力增长瓶颈也难以避免。
在超算领域,如果没有颠覆性的突破,2035年前难以实现Z级计算。在智算领域,OpenAI数据显示,模型计算量增长速度远超人工智能硬件算力增长速度,存在万倍差距。
这背后的问题在于,底层原理创新的停滞。 孙凝晖院士认为,我们现在到了一个停滞期,就像科学爆发期的黑夜,比如现在发展集成电路的方法都是上个世纪40年代到60年代发明的。“人类发展历史上有寒武纪大爆炸,科学的发展也类似,都是不均匀的。”
“经济可以急,但科学就是一个缓慢的东西,我们要多点耐心。”在孙凝晖看来,科学是高级的活动,我们成体系、成规模做基础研究,也就是二十多年,所以很多事情还是不能急。
现在,也有华为等企业表示更加重视基础科学理论研究,但孙凝晖并不认为他们谈论的是科学。
“他们的科学在我们看来是技术,华为嘴里的数学家,更像是技术员,只是把数学当做一个工具,用来解决工程问题、解决技术问题,这和科学里面的数学不是一个概念。”孙凝晖说。
以下为搜狐科技与孙凝晖的对话实录:
一、算力网会带来和互联网差不多的改变
搜狐科技:ChatGPT、GPT-4无疑是科技圈当下最热的话题,有观点认为,相关突破没有诞生在中国的原因之一是芯片被“卡脖子”,中美头部企业之间的算力差距明显,您怎么看?
孙凝晖:ChatGPT为什么会诞生在中国?美国现在是整个信息技术的中心,几乎所有重大的发明都诞生在美国,他们就是领先的。问这个问题好像问:为什么去年足球世界杯的冠军是阿根廷不是中国?
搜狐科技:在前不久的CNCC2022上,您发表了《算力基础设施的若干思考与实践》演讲,能否说说算力网建设的必要性何在?
孙凝晖:最近十年我们社会最大的变化是对数据处理的需求迎来爆发,还有以深度学习和大模型为代表的人工智能技术飞速发展。这两个需求来了以后,对计算的需求就旺盛了。
所以计算的能力需要基础设施化,变成一种可以普及的、低门槛的、易用的、价格低廉的服务。这也是算力网的本质——把算力变成一种基础设施化的服务提供给用户。
搜狐科技:什么时候算力才能和水电一样随取随用?
孙凝晖:互联网上个世纪60年代就出现了,但40年后才进入大规模普及的阶段。所以说实话我无法预测,但现在应该是一个起点,相当于互联网在80年代的阶段。
搜狐科技:很多专家认为算力网建设挑战在于带宽和延迟?
孙凝晖:需求总是越来越高,延迟方面,以前计算还是以就近计算为主,现在要变成与位置无关。而光纤的延迟是固定的,所以近处计算和远处计算延迟会差10倍,这是无法改变的。所以只能在调度上进行最佳匹配,对延迟比较敏感的放在城市里面计算,对成本、功耗比较敏感、延迟不太敏感的放在远程。
搜狐科技:随着算力网的发展,我们生活会有哪些革命性的改变?
孙凝晖:算力网主要还是To B、To G,企业、政府部门、大学都需要处理大量数据,算力网的意义在于把这种高级能力,变成所有人都易得的工具。如果我们相信数据的加工、使用变得很重要、很基础,它会带来和互联网差不多的改变。
搜狐科技:所以算力网是通过影响企业、行业来影响个人?
孙凝晖:是的,但算力网对个人的影响不会像互联网一样大,因为数据对于个人来说没什么商业价值,比如你一生产生几万张相片也只是自娱自乐,但对企业来说数据有利用价值。
二、超算遇到了天花板,学术界没有办法去突破
搜狐科技:超算中心接入算力网,会对超算的应用模式、领域等方面产生什么样的影响?
孙凝晖:超算本来是为一些重大应用服务,使用成本很高。与人工智能的智算相比,在同样能力下差不多贵10倍,使用的门槛也更高。
所以“普及化”是超算一个重要的发展方向。现在有用云提供超算服务的方式,也有企业把很多超算中心连起来,以服务的形式提供给用户。超算可以理解为最厉害的算力站,如果把它连起来,能够更普及地提供服务的话,对我们国家创新能力的提升有很大帮助。
搜狐科技:2013年以前,超算领域保持着“十年千倍”的发展速度,但近年其性能进步速度已经趋缓,类脑计算、量子计算等新型计算技术将是解决之道吗?
孙凝晖:超算遇到了天花板,但学术界并没有方法去突破。超算领域的千倍定律,一半得益于摩尔定律,一半得益于超算自身的变化。摩尔定律只延续了20年,后来都是磕磕绊绊的,这意味着“一条腿”被打断基本没有什么帮助了。
现在产业界基本上还是用榨干每一个环节的方式“往前拱”,持续进步到2030年以前还是可以。那些新原理、新器件计算,还在早期的阶段,即使突破了也很长时间难以解决通用计算的问题。
所以只能把特定领域的突破和通用领域磕磕绊绊的进步结合起来,往前走几步,然后再等新的科学突破再往前走。
搜狐科技:人脑功耗很低,可能一天也就20瓦,是不是因为跟计算机工作原理不同,所以计算机没办法做到像人脑一样低功耗运行?
孙凝晖:计算的原理跟人脑的原理不一样,计算原理是把一个复杂的问题分解成非常简单的操作,然后大量复制去求解。但人脑不是,我们并不知道人脑是什么机理。
现在我们只能把人脑神经元的结构图谱建立起来,但理解非常初级、宏观,比如有哪些分区,电信号怎么传导的,但这些传导和复杂求解过程之间差距很大,比从DNA到蛋白质差距还要大。
大脑的研究仅仅是一些启发,所谓类脑计算,只是一个比喻,比如人工智能芯片跟大脑神经元之间的关联性并不强。
三、科学发展有波动性,现在到了停滞期
搜狐科技:时下似乎是一个创新停滞的时代,有人认为人们在19世纪后期和20世纪初期奠定了科学理论的基础,今天的技术发展似乎是在“吃老本”,您怎么看?
孙凝晖:我们就是到了一个停滞期,中科院有本书用了“科学爆发前的黑夜”这个词。以超算为例,如果没有基础突破,大概到Z级就停止了。
但这也不奇怪,科学哪能天天爆发?人类发展历史上有寒武纪大爆炸,科学的发展也类似,就是不均匀的。社会、国家的发展,也具有这种波动性的规律。
之前的牛顿力学、热力学等等,也“吃”了好几百年,后来是量子力学等基础理论的出现,才推动了芯片、计算机这些现代科技产业的发展。谁也预测不出来下一次科学爆发是什么时候。
搜狐科技:像您或者一些科学家会因为这种停滞而感到郁闷吗?
孙凝晖:它是规律,有什么可郁闷?作为一个学者,你所在的方向如果停滞了,那有两种选择,一种是去攻更基础的问题,另一种是换一个方向去攻。
搜狐科技:施一公认为,真正的原创突破从0到1,是突发奇想、不能计划的,您认为原始性创新依靠的是天才的灵光一现吗?
孙凝晖:这取决于你从微观还是宏观看,个体来看确实有这种偶然性,但从整个科学、群体来看,也有一些必然性。比如在量子力学领域,单个电子是不确定的,但电子作为整体来看,就有电子云这些理论,有一定的规律性。
搜狐科技:越来越多企业也在强调基础研究,比如说华为。
孙凝晖:我不觉得他们谈论的是科学,他们的科学在我们看来是技术,华为嘴里的数学家,更像是技术员,只是把数学当做一个工具,用来解决工程问题、解决技术问题,这和科学里面的数学不是一个概念。
四、国内没有科学研究传统,要多些耐心
搜狐科技:从教育工作者的角度来看,您认为一个国家要产生更多原始性的创新需要什么样的人才培养模式?现阶段有什么能改进的?
孙凝晖:在科学研究领域,我们需要挑战前人的原理,但我们国家的孩子可能不太敢挑战权威,整个教育体系对这方面素质培养不太关注,我们更关注解决就业、社会基本需求,这也不是一时半会能改变的。
另一方面,科学变革需要人才达到一定的,量大了概率就大,而我们总是寄希望于一个厉害的人或者一个厉害的学校去做,所以打造大量人才的能力不强。简单来说,我们可以培养出一个姚明,但培养不出千千万万个姚明。
搜狐科技:现在很多青年,包括优秀的年轻科研人员深受焦虑、抑郁情绪困扰,房子、车子、户口的压力很大,您怎么看待这种现象?
孙凝晖:科学就是一个高级的活动,我们成体系、成规模做基础研究,也就是二十多年。经济可以急,但科学就是一个缓慢的东西,我们要多点耐心。
大部分年轻人还是要先解决生存问题,再解决发展问题。不过我觉得我们国家大多城市生活已经挺好,只要不是一定要北京的学区房,一定要你的孩子上北大清华,也不会那么焦虑,很多人的焦虑在于期望非常高。
搜狐科技:那是不是搞科研特别适合“富二代”?毕竟解决了生存问题。
孙凝晖:很多人不是很富裕,也做得很好,富二代不学无术的也很多。毕竟每个人对生存的理解也不一样,很难用单一指标去划分。
搜狐科技:有人说搞科研不如找个好工作,您怎么看待这种现象?在“六便士”和“月亮”之间我们应该如何去权衡?
孙凝晖:大部分人都是普通人,90%的人选择钱也不奇怪。即使是做科研的人,大部分也是把它当成一个职业,真正当做事业、人生的追求还比较少。
科学是对原理的追求,是一种抽象、一种兴趣,我们有工程、技术的传统,但科学是从西方传来的,我们没有这个传统,就像美国人没有打乒乓球的传统。
特别声明
本文仅代表作者观点,不代表本站立场,本站仅提供信息存储服务。