|
|
（转载关于NV的高管交流纪要，如果有详细信息源和copyright请告知）
个人核心Takeaway——
- 作为单一功能的图像处理器在未来不会成为一个可持续的生意。我们必须改变。我们必须改变公司以它可以变成，表达更多的视觉功能。除非我们能找到一种方法，让内容更丰富、更有趣，而且风格不同，从一个游戏开发者到另一个游戏开发者都可以编程使用，这样才会扩大我们产品的使用。当你在高科技行业时，当你在科技行业时，当技术发展如此之快时，如果你不重新改造自己，你只是在慢慢地死去。我们意识到必须要把GPU可编程，不然只会被其他竞争对手蚕食。如果你想要成为市场领导者，你必须主动蚕食你自己的产品。它是英伟达历史上最大的赌注，这是一个巨大的赌注。简单地说，我们花了大约三到四年的时间发明了这项技术，然后出现了坏消息。坏消息是，这将导致我们的产品成本几乎翻倍。
- CUDA已经彻底改变了计算机科学。
- 当时英伟达之所以让产品可编程，是因为人们正在为游戏制作特殊效果、特殊照明。他们想要更多的颜色，更好的纹理效果例如烟雾、水和火。而当时的技术不允许这样做。因此，他们希望能够通过编程来实现他们的个性化效果，从而创建一个可编程的大规模并行处理器。在此之前，它们基本上是固定功能的处理器，不可以做调整和编程。但是我们引入了可编程的着色器后，就引入了一个可编程的概念。这个新的功能对当时的游戏行业是划时代的，对设计汽车、桥梁和建筑的人来说也是非常好用的。 我们没想到的是，一些科学家也会用上我们的编程功能，最初是斯坦福大学和伯克利大学的人，他们认识到，这项技术实际上会让他们有机会在台式机上完成超级计算任务。
- 2001年就加入英伟达判断不会仅仅是一家图形处理公司，而是那时候我认为英伟达会成为一家平台型的加速计算公司，当初我看到了这个苗头。早在2001年的时候，黄仁勋就希望把加速计算不仅仅是用在图形处理，而是把它扩展到更多的领域。直到2012年深度学习算法的出现，引起了GPU的大规模使用。加上摩尔定律快到头了，并行计算一定是有需求的。
- 未来这些AI公司要存活的话就要成为垂直型的公司，人工智能成为是一个平台和技术；未来只会有利用AI的医疗公司，利用AI的汽车公司，利用AI的语音服务公司。我至少是这样看待这个世界的。
- 我们的决策过程不是层级的、缓慢的，我们仍然可以快速的做决策，我们相信我们的直觉，相信我们在做正确的事情。所以这是一个激动人心的时刻，你知道，我从2001年，这么多年前就已经开始讨论GPU的通用计算，但是一直都没有实现。在最黑暗的2008年-2012年间，我们的游戏业务并没有怎么增长，而GPU的其他应用场景还并没有出现。
- 我们当初花了很长时间才把CUDA推广出去，一开始我们编写了教科书，然后和大学合作。其实和我们的图像处理器业务是一样的，我们不仅是卖我们的芯片就完事了，我们当初做图形处理器也是需要深度的帮助游戏工作室，和他们坐在一起，教他们如何使用，并且帮助他们调整他们的游戏性能。
- 意识到神经网络AI的重要性并爆发性增长：大概是2012 - 2013 年，突然间有三个不同的研究团队几乎同时联系我们，要求我们帮助他们实现加速神经网络模型。原来是因为他们都想报名参加Image Net这个竞赛。因为Alex Net当时有一个巨大的飞跃，所有的研究人员突然关注怎么通过GPU加速神经网络。当这个趋势爆发的时候，我就在思考会对我们公司造成什么影响。我觉得最重要的是我对软件的理解改变了。
- 我们公司从成立到现在，一直都是做加速计算，所以积累了20多年的优势。加速计算有很多种，图形计算是其中一种，还有物理模拟的加速，科学计算的加速，深度学习的加速，本质上都是加速计算，都是通过并行计算的方式加速。所以，公司从成立开始，所有的业务和团队都是为了加速计算这一个使命而准备的，因此人工智能（深度学习）这个机会和我们公司的业务是完全契合的。为什么CPU等芯片公司，这些竞争对手没有我们有优势呢？因为要做加速计算的话，你必须是一家完整的公司，从硬件到软件，到算法，这和CPU的思考方式是很不一样的。做加速计算这个生意需要很多优秀的算法工程师，同时你必须以不同的方式考虑整个系统，包括软件，网络连接，内存读取速度，CPU和GPU之间的配合等，需要整个系统去思考问题才能把加速做好。所以CPU公司比较难追上我们，因为芯片的架构，算法，软件体系，做事方式都是不一样的。 我们公司可以在AI时代全面领先是因为我们很幸运，因为我们做图像处理加速的时候，就积累了硬件+软件+算法的全套全流程经验，从计算机图形学，再到科学计算，我们已经掌握了这些技能。当深度学习出现时，我们公司非常擅长解决这个问题。
- 过去十年，对于不同行业的科研人员来说，CPU摩尔定律大概提升了100倍的计算速度，但是因为GPU和深度学习，帮助科学家们的计算性能提升了100万倍。未来10年，我相信在某些科学发现的领域，叠加算法+软件+硬件的提升，还能加速100万倍。例如最新的物理信息神经网络（physics informed neural networks）的进展可以加速物理、医疗、气候科学等研究。所以，如果这些领域再增加100万倍的加速，创新会难以想象。但我们将在许多不同的领域看到这一点，无论是在医疗保健、气候科学还是其他对我们来说非常重要的物理领域。
- 我正在关注多模态（多模态表示图像，声音，语言等融合的机器学习）的自我监督机器学习方法。多模态人工智能把有视觉，视频，语言和自然语言一起融合, 将会把计算机感知提升到一个全新的水平。我对此非常兴奋。 我对零射击学习（zero shot learning）也比较关注，能够通过观察你之前的训练数据然后学习。真的是非常令人兴奋和强大的。还有一个我比较关注的是图像神经网络（Graph neural networks）。我对虚拟的物理世界很感兴趣，我认为未来大多数的创新，制造业设计都会在虚拟世界里面实现，因为虚拟世界是符合物理定律的，而且在虚拟世界里面做各种实验会更加方便。最近还有一个叫Transformer的模型，一种新的语言处理模型被证明了，会大幅度提升语言处理的能力，未来五年会有重大的突破。我对物理集成神经网络（physics informed physics integrated neural networks）非常兴奋，物理神经网络是把物理公式，物理定律代入到神经网络的训练里面，让我们训练出来的模型是符合物理定律的，将会为科学研究带来提升。我们可能会决定对其某些部分进行一些物理模拟，例如非常大规模的天气模拟。物理神经网络还可以用在量子化学，把他们的研究速度提高一千倍、一万倍，过去这几乎是不可想象的进步。今天与atom consortium发布的公告尝试新的计算方法，以增加药物的发现。同时我认为AI的数据驱动，将会变成科学的第四支柱：第一是类似爱因斯坦这样，通过推导发现一些原理；第二是通过实验方法，类似牛顿法Newton's method；第三是通过计算机的模拟计算；第四种，就是AI时代带来的，数据驱动型的科学发现，将会融合之前的几种方法带来新的创新。
- 我们有一个基础研究的部门，有200多人，分布在全世界。这个组织的生产力令人难以置信，他们针对整个计算系统进行基础研究，从芯片、电路、网络，并行处理器架构到编程模型，从计算机图形学到深度学习。他们与所有产品团队一起合作，推动AI计算的发展。例如我们最新的光线追踪RTX，是他们花了10年研究的工作，因此今天我们才有了英伟达的光线追踪技术和光学技术。他们研发的Cudnn这个加速库彻底改变了深度学习，让无数的科学家可以方便使用这个工具库。
- 因为英伟达不是一家芯片公司，我们是一家计算机架构公司，我们是一家软件公司，我们关心的是计算机架构，我们关心的是这些软件可以在我们架构的不同计算机上面运行。
- 未来所有的软件都是都是数据驱动的，软件是AI写出来的，因为人是写不出来这么复杂的软件的。那么就意味着：（1）我们需要有一个数据策略我们如何捕获数据，使用数据，融合数据，用于模型训练；（2）我们需要有全新的基础设施，非常快的计算机来满足AI的算力需求，所以我们就开始造超级计算机。当时我们公司还没有超级计算基础设施，现在我们公司的超级计算机可以排进世界前50；（3）我们需要全新的软件系统，满足例如从训练到边缘的部署，例如自动驾驶就是边缘的AI应用；（4）我们需要全新的方式来模拟和训练AI，所以构建了omniverse。
- 人类历史上从未有过制造世界上最有价值商品的能力，那就是智力。我们现在有了一个模型的结构，一个被称为深层神经网络的计算机科学程序的结构，它具有极大的扩展能力。这不是摩尔定律每两年翻一番，它每六个月翻一番。翻倍的速度令人难以置信，这对计算的综合影响令人难以置信。这些神经网络和软件能力的结果，由计算机创建的软件正在以惊人的速度扩展和增长，并实现惊人的成就。我们公司正在制造继续推进这一进程所需的计算机，这就是英伟达真正的目的是生产智能。
(基于NVIDIA Omniverse的开发者创作）
原文——
1、你个人最重要的能力是什么？
CEO黄仁勋：
是我的愿景，是我看世界的方式。我创业的时候是1993年，当时电脑用的是的Windows系统，电脑还不能上网，CPU的处理速度还不是很快。我们希望做一个图形的加速处理器，可以做通用的图形加速，不过我认为最大的市场会来自游戏，所以我们一开始的目标市场是游戏。当时大家都不看好，因为那时候游戏市场的加速器是不存在的，也没有游戏公司。但是我是电子游戏成长起来的第一代，所以我的直觉认为这个市场是存在的。但是这个愿景在当时是独一无二的，而且很难出售，所以我们不得不去向风险投资家解释它，他们不得不弄清楚这项技术是否有可能市场有多大，因为当时它是 0 亿的市场规模，那么当市场当时的表观规模为零时，你如何推断你如何确定市场规模在分析师报告中，你研究市场研究，所有这些都会说大约为零它永远不会显示它是一个非类别非市场呃。最后，我们拿到了红杉资本的 200 万美元。我再强调一下你的远见，你的愿景很重要，比如当时雅虎，他们一开始给自己定位为一个媒体的中转站，然后把他们的网站里面的搜索引擎外包给Google了。这使得谷歌有可能开始，因此注意到两家公司做同样的事情，开始时使用完全相同的基本核心技术，结果却截然不同地方，因为他们有不同的观点，他们以不同的方式看待世界，所以观点很重要愿景现在在我们的行业中很重要。
再谈谈愿景，创业之初竞争是很激烈的，其他市场上几十家图形处理器公司我认为拥有完全相同技术的，在做相同的事情，但是我们还是成为了最后剩下的GPU公司，为什么？。第一，我从本质去思考，我认为我们业务的核心是摩尔定律，两年性能提升一倍。所以我们的产品都是做到最好，性能最佳的，导致我们的产品一开始看起来比较贵。我把我们的产品规格带到了戴尔、惠普、IBM，他们都告诉我说太贵了。但是我认为GPU的性能两年提升一倍，现在贵，之后性能提升后就不会觉得贵了。客户看的是功能/价格 性价比，功能提升了，价格不变，就会越来越有吸引力。所以当时我们的决定是 忽略我们的客户，因为他们是错的。原因是因为他们不了解你的业务性质。所以我们随着摩尔定律，就成长起来了。
2、在2006年，你们推出CUDA, 可编程的GPU，那时候是面临怎么样的情况？
CEO黄仁勋：
摩尔定律是一件奇妙的事情半导体技术使您能够在技术上取得惊人的飞跃，并且在某些时候它变得足够好，所以这可能是在我们公司成立大约七年的后期，也许是我们公司成立六七年公司，我得出的结论是，作为单一功能的图像处理器在未来不会成为一个可持续的生意。我们必须改变。我们必须改变公司以它可以变成，表达更多的视觉功能。除非我们能找到一种方法，让内容更丰富、更有趣，而且风格不同，从一个游戏开发者到另一个游戏开发者都可以编程使用，这样才会扩大我们产品的使用。
当你在高科技行业时，当你在科技行业时，当技术发展如此之快时，如果你不重新改造自己，你只是在慢慢地死去。我们意识到必须要把GPU可编程，不然只会被其他竞争对手蚕食。如果你想要成为市场领导者，你必须主动蚕食你自己的产品。
它是英伟达历史上最大的赌注，这是一个巨大的赌注。简单地说，我们花了大约三到四年的时间发明了这项技术，然后出现了坏消息。坏消息是，这将导致我们的产品成本几乎翻倍。这将使我们每种产品的成本翻倍，而我们当时已经是一家价值数十亿美元的公司。在我们引进这项技术的那一天，它没有任何应用。因此，当你的成本增加时，客户没有得到任何好处，因此客户也不会愿意溢价购买我们的芯片。
我向董事会谈到了这一点，谈到了我们将要做的工作的重要性，我们决定在所有的产品线上都适用CUDA，因此所有的产品线都会增加成本。因为我们是一个计算机架构公司，如果别的程序开发人员要在我们的架构上做开发，就必须要在我们所有的架构上可以运行他们的软件。
当时有人跟我说，即使我们做了CUDA，别人不一定会用。我的反驳是，我们相信我们所相信的，我们相信这是正确的答案，如果我们不建造它，别人就不会来。因此，我们决定将这项技术应用到我们的产品线CUDA中，CUDA已经彻底改变了计算机科学。但在那段时间里，我们的利润被毁了。我们的损益表被粉碎了。英伟达的股价大幅下跌，那段时间我们坚持下去，我们解释，我们只需要继续努力，我们在全世界推广、传教、教书、写书、开发应用程序。然后，神奇的是，人工智能时代终于用到了我们这样的技术。
3、在2006年，你们推出CUDA, 可编程的GPU，那时候是面临怎么样的情况？
Vice President：
大约在2001年，英伟达作为一家消费类3D图形处理芯片，当时市面上还有50多家这样的公司。我当时选择加入这家公司是因为因为这家公司很特别，他们是市面上第一家可编程的图像处理芯片。当时英伟达之所以让产品可编程，是因为人们正在为游戏制作特殊效果、特殊照明。他们想要更多的颜色，更好的纹理效果例如烟雾、水和火。而当时的技术不允许这样做。因此，他们希望能够通过编程来实现他们的个性化效果，从而创建一个可编程的大规模并行处理器。在此之前，它们基本上是固定功能的处理器，不可以做调整和编程。但是我们引入了可编程的着色器后，就引入了一个可编程的概念。这个新的功能对当时的游戏行业是划时代的，对设计汽车、桥梁和建筑的人来说也是非常好用的。
我们没想到的是，一些科学家也会用上我们的编程功能，最初是斯坦福大学和伯克利大学的人，他们认识到，这项技术实际上会让他们有机会在台式机上完成超级计算任务。当时仍然是2001年，超级计算机是非常昂贵的。这些科学家开始利用GPU做流体动力学、大气模拟、气象模拟、行星和宇宙模拟。他们当时编程十分不方便，要通过DIRECT X或者 OPEN GL来实现他们想做的模拟。Direct X是游戏，OPEN GL是专业图形应用程序的标准格式。所以我们很早就认识到了科学界对可编程计算的需求。
顺便说一句，我从2001年加入英伟达，就是因为觉得英伟达不会仅仅是一家图形处理公司，而是那时候我认为英伟达会成为一家平台型的加速计算公司，当初我看到了这个苗头。早在2001年的时候，黄仁勋就希望把加速计算不仅仅是用在图形处理，而是把它扩展到更多的领域。CEO是一个非常有远见的人，没有他这些事情就不会实现，他能够预测未来，并以不懈的毅力实现自己的愿景。
但如果你看看发生了什么，那么从2001年到2007年左右，我们开始构建可编程GPU和GPU计算的种子。大约在2006年或2007年，我们推出了CUDA，这是我们的GPU计算架构。然后我们决定全力以赴。虽然当时我们仍然是一个游戏业务为主的公司，但是我们畅想是打造一个综合的计算平台公司。我们当时没有意识到人工智能的出现，只是觉得其他行业会对平行计算有需求。为了实现我们的目标，最开始在我们图形处理器上面增加了很多额外的功能和软件，以便于实现编程GPU计算。不过当时并没有任何的生态和应用，我们的额外功能并没有人用。等于我们的竞争对手GPU是一个丰田，但是我们的GPU是一台法拉利，但是车是在城市跑的，没有用武之地。这个决定导致到我们的股价表现非常差，虽然2008年之后大跌部分是金融危机，英伟达库存激增，但部分原因是我们当时打造的产品在游戏方面竞争力较低，因为我们正在打造一个比游戏更广泛的平台。但是CEO还是坚持下来了，他非常有毅力。他一直认为适用GPU加速的应用一定会出现。直到2012年深度学习算法的出现，引起了GPU的大规模使用。加上摩尔定律快到头了，并行计算一定是有需求的。
4、2012年AI开始应用，你们是怎么把生态建立起来的呢？你们具体做了哪些工作？
Vice President：
第一，我们意识到摩尔定律已经快结束了，所以人们不得不求助于其他技术。并行加速是其中的主要技术和方法。
第二，这会是一次平台生态的转移，从CPU的计算生态，转移到 GPU的计算生态。
第三，如果我们要打造一个GPU计算生态的话，如果没有软件应用的话，就没有人会从CPU转移到GPU生态上，如果仅仅是1倍、2倍的加速对CPU生态的用户吸引力不大，你最起码需要提供10倍以上的优势才能吸引旧生态的用户转移到新的生态上。
基于以上几点，我们在大概10年前就意识到，GPU将会是一个新的计算平台，而那些大公司，那些根深蒂固的大公司已经为旧的生态系统，旧的平台编写了很多软件。要说服他们转移到GPU的生态是不容易的。同时，我们意识到创业公司在生态系统中发挥的作用，如果我们把精力花在培养创业公司上，这些公司将成长为GPU的生态伙伴。
当时我们就考虑培育创业公司，我们提供很多的资源支持，也设立了股权基金，有一个Nvidia Inception Program的项目，专门为这些深度学习AI和数据科学初创公司提供的基础广泛的支持。所以当时我们有两个策略：
1. 是我们的生态合伙伙伴INCPETION项目，让AI的创业公司都参与到这个项目，我们提供帮助，同时也会组织活动让这些在生态里面的项目互相认识，互相交流；
2. 第二是我们设立了风险投资的股权基金，投资小部分的AI公司。我们的目标不是财务回报，而是培养生态。在生态创建的过程中，包括投资后，我们也不会强迫这些公司一定用GPU，我们是希望我们提供的就是最好的技术和产品，让这些公司自然而然的使用我们的产品。
5、你对AI未来的发展怎么看？
Vice President：
我认为那些所谓的人工智能创业公司是难以存活的，因为算法，模型很多都是开源的，但是现在比较难用所以才有很多AI服务型公司，但是随着算法，软件，用起来越来越方便，比如英伟达现在把硬件、软件、算法、模型都做完了，而且算法、软件模型都是几乎开源，免费使用的。所以未来这些AI公司要存活的话就要成为垂直型的公司，人工智能成为是一个平台和技术；未来只会有利用AI的医疗公司，利用AI的汽车公司，利用AI的语音服务公司。我至少是这样看待这个世界的。
6、你怎么看你们公司的管理层？
Vice President：
虽然我们公司现在有12000人，但是我觉得英伟达仍然像一个创业公司一样。我2001年加入公司的时候大概只有1000人左右，直到2017年，我仍然感觉到我们像是一家创业公司。我觉得主要的原因是因为我们的CEO，我觉得业界还没有意识到他的能力，再给我们几年大家就能看到他是多么有远见。CEO创立了这家公司，而且很多核心管理团队已经在英伟达工作了15年、20年，所以这是一个非常紧密的团队。我们的决策过程不是层级的、缓慢的，我们仍然可以快速的做决策，我们相信我们的直觉，相信我们在做正确的事情。所以这是一个激动人心的时刻，你知道，我从2001年，这么多年前就已经开始讨论GPU的通用计算，但是一直都没有实现。在最黑暗的2008年-2012年间，我们的游戏业务并没有怎么增长，而GPU的其他应用场景还并没有出现。在那些黑暗的日子里，我的很多同事都离开你了，他们觉得英伟达不可能超过英特尔、高通的，并没有坚持到今天。
7、CUDA是你们生态的很重要的一部分吗？
Vice President：
是的，如果没有CUDA，就不会有GPU的计算平台。CUDA非常重要，因为很多的开发者是建立在CUDA这个平台之上的。现在很多的竞争对手也尝试构建他们的GPU芯片和生态，但是他们没有CUDA，没有我们这个领先的生态就很难和我们竞争。我们当初花了很长时间才把CUDA推广出去，一开始我们编写了教科书，然后和大学合作。其实和我们的图像处理器业务是一样的，我们不仅是卖我们的芯片就完事了，我们当初做图形处理器也是需要深度的帮助游戏工作室，和他们坐在一起，教他们如何使用，并且帮助他们调整他们的游戏性能。我们也会提前和游戏工作室交流，告诉他们明年会有什么新的产品，这样他们就可以调整他们的游戏以达到最佳的体验。我们就是以这样的业务方式去服务我们的客户，无论是AI，自动驾驶，深度学习，数据科学等客户。
8、你们公司是什么时候意识到神经网络（AI）的爆发并且在这方面开始投入的？
CEO黄仁勋：
大概是2012 - 2013 年，突然间有三个不同的研究团队几乎同时联系我们，要求我们帮助他们实现加速神经网络模型。原来是因为他们都想报名参加Image Net这个竞赛。因为Alex Net当时有一个巨大的飞跃，所有的研究人员突然关注怎么通过GPU加速神经网络。当这个趋势爆发的时候，我就在思考会对我们公司造成什么影响。我觉得最重要的是我对软件的理解改变了。以前的软件程序是人编写的，现在的软件变成了机器编写的。机器可以从数据中提取，从数据中提炼，以某种方式识别模式，关系，并以某种方式学习了一些预测模型，完全的自动化。所以计算机需要从新设计，软件，系统需要从新设计来适应AI的流程，而这些新的趋势爆发时候，会对改变所有的行业。所以我们公司的核心就是针对所有这些问题提出我们新的解决方案。
9、从2013年开始，科技公司几乎都看到了AI的趋势，你的其他竞争对手也有投入，AMD, INTEL, GOOGLE, 高通等公司都希望和英伟达竞争，为什么英伟达还是能保持这么明显的优势呢？是因为你们的CUDA生态领先，所以导致别人很难追上你们吗？
CEO黄仁勋：
我们部分原因是我们很幸运，因为我们公司从成立到现在，一直都是做加速计算，所以积累了20多年的优势。加速计算有很多种，图形计算是其中一种，还有物理模拟的加速，科学计算的加速，深度学习的加速，本质上都是加速计算，都是通过并行计算的方式加速。所以，公司从成立开始，所有的业务和团队都是为了加速计算这一个使命而准备的，因此人工智能（深度学习）这个机会和我们公司的业务是完全契合的。为什么CPU等芯片公司，这些竞争对手没有我们有优势呢？因为要做加速计算的话，你必须是一家完整的公司，从硬件到软件，到算法，这和CPU的思考方式是很不一样的。做加速计算这个生意需要很多优秀的算法工程师，同时你必须以不同的方式考虑整个系统，包括软件，网络连接，内存读取速度，CPU和GPU之间的配合等，需要整个系统去思考问题才能把加速做好。所以CPU公司比较难追上我们，因为芯片的架构，算法，软件体系，做事方式都是不一样的。
我们公司可以在AI时代全面领先是因为我们很幸运，因为我们做图像处理加速的时候，就积累了硬件+软件+算法的全套全流程经验，从计算机图形学，再到科学计算，我们已经掌握了这些技能。当深度学习出现时，我们公司非常擅长解决这个问题。
10、你的GPU可以实现很多功能，例如挖矿，图像处理，数据处理，机器学习等。你怎么平衡这么多功能在一个芯片里面? 如果放这么多功能在一个芯片，会增加功耗，而且有一些功能游戏玩家可能用不上，你怎么看？
CEO黄仁勋：
你说的没错，每个领域对GPU的需求会有一点不一样。例如科学计算，他需要浮点64位的运算；但是在消费类应用，可能浮点32位运算就可以了（64位比32位计算的小数点后面位数更多，但是增加了GPU的功耗和减少了性能）。有时是非常密集的计算，有时是稍微稀疏一点的计算。例如，光线跟踪非常稀疏。另一方面，光栅化(Rasterization)的密度相当高。
因此，你会发现不同的行业对计算精度的需求都有一点不一样，我们希望在同一个GPU上满足他们这些不同精度的需求。因为每个行业都有大量的应用，如果GPU都可以用在这么多不同的行业，需求场景将会大大增加。我们构建的GPU是通用的，所有这些不同行业的应用程序都可以在我们的任何GPU上运行。这为开发者提供了一个非常大的目标客户群。开发者知道，当他们开发我们的架构时，它将在任何地方运行。当然，我们GPU也会针对不同的客户群体做调整，例如某些系列的GPU更适合科学计算，某些系列更适合机器学习，某些系列更适合图形处理。例如GE FORCE是一款图形处理的GPU，但是也可以用来做科学计算，只是它没有FP64的专用计算能力，所以运算起来会慢一些。我们也会有适合深度学习的GPU，别人也可以拿它来做图像处理，但是肯定也没有我们的图像处理系列GE FORCE运行快。
总结一下，我们的GPU是通用的，都可以运行计算机图形学、科学计算、训练、推理等功能。但是我们会根据不同的市场，调整部分的软件硬件的功能，来适应目标的市场。我们之所以希望做通用GPU是因为我们站在开发者的考度思考问题，我们希望在我们生态上面的开发者，开发出来的软件后能用在最可能大的用户群，而不必担心软件是否会运行，（这样开发者才能获得更多的利润，而我们的生态才会越来越庞大）。
11、你对未来几年的AI发展怎么看，它会怎么改变行业？
CEO黄仁勋：
过去十年，对于不同行业的科研人员来说，CPU摩尔定律大概提升了100倍的计算速度，但是因为GPU和深度学习，帮助科学家们的计算性能提升了100万倍。未来10年，我相信在某些科学发现的领域，叠加算法+软件+硬件的提升，还能加速100万倍。例如最新的物理信息神经网络（physics informed neural networks）的进展可以加速物理、医疗、气候科学等研究。所以，如果这些领域再增加100万倍的加速，创新会难以想象。但我们将在许多不同的领域看到这一点，无论是在医疗保健、气候科学还是其他对我们来说非常重要的物理领域。
12、未来的科学、工程越来越依赖于NIVIDIA超级计算机，换而言之，创业者和科学家会不会变成一个象牙塔，拥有英伟达的超级计算机才能做研究，或者创业？限制了AI在大众的普及度？
CEO黄仁勋：
我们对该行业最大的贡献之一是，由于英伟达的GPU，我们实现了科学计算的民主化，AlexNet的突破只是用了我们其中一个游戏GPU，并不是在超级计算机上面的。因此，我觉得英伟达的GPU是对AI民主化非常大的贡献。第二个贡献是，我们提供人工智能的预先训练的模型和转移学习的模型，这些都是免费的，大幅度的降低了AI的普及标准，这些模型每个人都可以下载，然后用来做稍微的调整和训练后，就能在他们各自的行业使用。我认为人工智能是最强大的力量。它的好处之一将是使计算机科学民主化。
13、你看起来对技术，对AI这些前沿技术很敏感，你怎么这么懂这些超级计算机，前沿的人工智能模型等？
CEO黄仁勋：
这只能通过不同的学习，我昨晚还在看书看到凌晨3点。我认为你必须不断学习。而且我身边有很多聪明的人，也可以从他们身上学习。当破解一个谜题或者学到一些新的东西时，会让我兴奋不已。我认为作为一家科技公司的CEO，你真的需要享受了解公司正在发生的事情的乐趣，这足以让你了解整个行业正在发生的事情。
14、你自己有什么特别的管理风格?
CEO黄仁勋：
我不喜欢和我的下属1对1的交流。如果有什么我想说的，我倾向于对整个团队讲，这样每个员工都从我这里听到同样的话。我不希望我的话被翻译过滤后再传给其他员工，作为一个CEO，如果我的话是通过层层翻译的话，就很容易被弯曲。如果我对一件事情有反对的意见的话，我不会对一个人说，我会对整个部门，或者整个团队说；如果需要执行战略方向的时候，我也会同时告诉每一个人。我致力于这种方法，因为我觉得它更透明。它把我的意图传递到尽可能多的人手中，并将其付诸实践。
15、你现在的梦想是什么，你想带领你的公司去完成什么样的使命呢？
CEO黄仁勋：
我们想做的事情就是，在我们的能力圈内，找到那些世界上最难解决，但是有极有意义的问题，然后解决它们。
有两个方面我现在非常兴奋：
第一是人工智能在各个行业的应用。现在的智能语音，图像识别的技术已经成熟，可以转化到产生巨大价值的应用，例如自动驾驶汽车，客户服务和呼叫中心，自动结账的收费员；也可以应用到医疗机器人等，所以这是我们目前精力所在的很大一部分，就是如何利用这项使能技术，并将其转化为技能，以便行业开发者的客户能够适应各种不同的领域。这就是人工智能的大规模应用。
第二，这是人工智能的下一个时代，人工智能必须学习物理定律。世界上的许多挑战，无论是气候科学，还是自动驾驶汽车，还是制造业，人工智能必须做出符合物理定律、物质守恒定律、能量守恒定律等的预测。这些问题要解决的话我们必须要开发出一个遵循物理定律的虚拟世界，所以我们建造了omniverse。 它是基于物理的。它非常大，能够支持非常大的模型。在OMNIVERSE,你可以在这个虚拟的世界里面训练机器人，这个机器人之后可以和现实世界的机器人同步，叠加人工智能的算法，实现机器人的大规模应用。
16、你们公司现在感觉越来越接近AI的应用层面了，未来你们会直接提供AI应用吗？
CEO黄仁勋：
在不同的行业，我们只是提供应用框架，我们不是提供消费者的AI应用，我们只是为未来的开发者提供工具，框架，系统，来帮助他们构建他们各自行业的应用。例如，我们提供了一个演示，如果你看过那个玩具人黄仁勋讲话（下图？抱歉信息传送到这里已经没有图了）的视频，它是一个虚拟机器人，也被称为化身。它结合了计算机视觉和语音人工智能等技术，这个技术提供给别人后，别人可以用来应用在制造、医疗、科研，娱乐，元宇宙等，这只是一个虚拟机器人，怎么使用它取决于开发者怎么利用它。这个虚拟化身也非常适合用在元宇宙中，就像是一个元宇宙的管家（或者像元宇宙的苹果siri）。
17、现在有哪些前沿的机器学习，AI进展你比较关注？
CEO黄仁勋：
我正在关注多模态（多模态表示图像，声音，语言等融合的机器学习）的自我监督机器学习方法。多模态人工智能把有视觉，视频，语言和自然语言一起融合, 将会把计算机感知提升到一个全新的水平。我对此非常兴奋。
我对零射击学习（zero shot learning）也比较关注，能够通过观察你之前的训练数据然后学习。真的是非常令人兴奋和强大的。还有一个我比较关注的是图像神经网络（Graph neural networks）。我对虚拟的物理世界很感兴趣，我认为未来大多数的创新，制造业设计都会在虚拟世界里面实现，因为虚拟世界是符合物理定律的，而且在虚拟世界里面做各种实验会更加方便。最近还有一个叫Transformer的模型，一种新的语言处理模型被证明了，会大幅度提升语言处理的能力，未来五年会有重大的突破。
我对物理集成神经网络（physics informed physics integrated neural networks）非常兴奋，物理神经网络是把物理公式，物理定律代入到神经网络的训练里面，让我们训练出来的模型是符合物理定律的，将会为科学研究带来提升。我们可能会决定对其某些部分进行一些物理模拟，例如非常大规模的天气模拟。物理神经网络还可以用在量子化学，把他们的研究速度提高一千倍、一万倍，过去这几乎是不可想象的进步。今天与atom consortium发布的公告尝试新的计算方法，以增加药物的发现。
同时我认为AI的数据驱动，将会变成科学的第四支柱：
第一是类似爱因斯坦这样，通过推导发现一些原理；
第二是通过实验方法，类似牛顿法Newton's method；
第三是通过计算机的模拟计算；
第四种，就是AI时代带来的，数据驱动型的科学发现，将会融合之前的几种方法带来新的创新。
18、英伟达为什么做硬件+系统软件+应用框架，为什么要全部都做？
CEO黄仁勋：
因为目前正在发生的是一场计算机科学的革命。人工智能这种新形式的软件，它是机器自己编写的软件。因此，它的数据收集的流程，计算的方式，底层的硬件，算法，系统等全部都要重构。现在机器通过AI编写的那种软件，是以前没有人想到过的。在某种程度上，没有人能想象到，从处理器到系统软件，再到算法，计算的每个方面都面临着挑战。因此现在的计算机需要实现尽可能高效、低成本，然后收集更多数据。所以整个流程，工作流程是完全不同的。我想英伟达所做的是多维度的。第一个方面是发明我们需要的新型处理器，这种处理器要支持这些新的软件，新的应用场景，例如边缘，终端，和数据中心。还有训练和推理的场景芯片。
19、未来你会想把FPGA收购吗？
CEO黄仁勋：
我们不可能收购FPGA公司的。（FPGA是可编程芯片，但是有能力在FPGA上编程的人基本都是芯片设计师）
我们不会收购FPGA是因为，我们的用户，例如科学家，软件开发者，数据分析师，图像处理师等这些人是不会想在FPGA上做芯片设计的。芯片设计的工作应该留给专业的人来做，例如我们英伟达就是做这行的，对于应用行业的开发者来看，FPGA芯片使用起来是一项令人不愉快的工作，太难了，这些科学家、开发者可能要花几年才学会怎么用FPGA。因此，我们希望尽可能多地使用软件，帮助我们的用户。FPGA的用途是在那些网络控制器，音频控制器的那些不适合CPU的地方使用，这些地方适合硬件编程，它会比软件高效。但只要有可能，我们都希望做成软件编程的芯片，我们都希望通过编程语言来定义硬件。一个可编程的CPU，一个可编程的，一个可编程的DPU，我们还加入了一个类似专用芯片的Tensor Core人工智能处理器。
在这四个处理器之间，我很难找到一个理由去做一个FPGA，或者用另一种方式说，我们用FPGA的理由越来越少了。
我们英伟达是喜欢FPGA的，但是我们公司就是做芯片设计的，所以我们经常用FPGA来做早期的芯片开发，但是对于我们的用户，他们不是专业的芯片设计师，他们是很难学习怎么使用FPGA的。因此，对于我们的客户来讲，最好的办法就是软件编程，然后芯片设计的事情就交给我们这些专业人士来做。
英伟达首席科学家Bill Dally：
我不是很担心FPGA。如果你想解决某个问题，并且你愿意投入大量的工程时间，那么干脆直接开发ASIC就好了。我是这么看 FPGA 的，如果你在 ASIC上设计了一个门，那么把同一个门放在一个FPGA 上，占用的芯片面积和功耗都会是相差很多。所以对于实际上你必须用随机门工作的东西，FPGA 比 ASIC 要明显更弱。FPGA只能在 FPGA 中使用大量硬件模块的问题上做得很好。所以，如果你已经硬连接一些 FPGA 有 18 个 beta算术单元来进行 DSP 操作，其他的有 14 个点单元。当你不得不使用 FPGA 上的栅极时，它的表现会变得差强人意。也因此我们不认为它们是非常有竞争力的。
20、为什么你们公司的技术，算法方面可以保持领先, 有这么多AI的应用？
CEO黄仁勋：
我们有一个基础研究的部门，有200多人，分布在全世界。这个组织的生产力令人难以置信，他们针对整个计算系统进行基础研究，从芯片、电路、网络，并行处理器架构到编程模型，从计算机图形学到深度学习。他们与所有产品团队一起合作，推动AI计算的发展。例如我们最新的光线追踪RTX，是他们花了10年研究的工作，因此今天我们才有了英伟达的光线追踪技术和光学技术。他们研发的Cudnn这个加速库彻底改变了深度学习，让无数的科学家可以方便使用这个工具库。最近，他们还发明了一些人工智能的算法用来处理图像，例如AI可以通过把电脑标记自动生成真实世界的图像之后通过人工智能，我们能够预测应该是什么颜色，什么光线，并提前在屏幕上显示出来，更快地完成画面，我们训练了这个网络来做这件事，现在它必须创建照片真实感的图像，所以这个人工智能网络实际上是在合成信息。
21、你对智能汽车的理解是怎么样的？
CEO黄仁勋：
我们认为智能汽车是一台可以自动驾驶的计算机，正如你们所知，计算机是软件定义的，就像今天的手机是软件定义的，电脑是软件定义的，软件定义的这些工具带来了科技革命，因为软件可以不断迭代和实现各种各样的功能。因为英伟达不是一家芯片公司，我们是一家计算机架构公司，我们是一家软件公司，我们关心的是计算机架构，我们关心的是这些软件可以在我们架构的不同计算机上面运行。这样我们就可以让软件，随着时间的推移越来越好，我们部署的车队和汽车的整个安装基础会越来越好，越来越安全，越来越舒适。
22、英伟达应用涉及的领域包括医疗，自动驾驶，物理、化学研究，前沿的科研，你们的能力圈在哪里，到专业领域的哪些层面你们是不碰的？
CEO黄仁勋：
我们的业务的确服务很多个行业，所以我需要普遍的一个真理，然后围绕这个真理去展开我们的业务。我们在7-8年前发现了一个普遍的真理，第一性原理。
未来所有的软件都是都是数据驱动的，软件是AI写出来的，因为人是写不出来这么复杂的软件的。那么就意味着：
（1） 我们需要有一个数据策略我们如何捕获数据，使用数据，融合数据，用于模型训练；
（2） 我们需要有全新的基础设施，非常快的计算机来满足AI的算力需求，所以我们就开始造超级计算机。当时我们公司还没有超级计算基础设施，现在我们公司的超级计算机可以排进世界前50；
（3） 我们需要全新的软件系统，满足例如从训练到边缘的部署，例如自动驾驶就是边缘的AI应用；
（4） 我们需要全新的方式来模拟和训练AI，所以构建了omniverse。
23、你们公司的使命是什么？
CEO黄仁勋：
我们希望适合AI使用的超级计算机，然后通过我们的产品解决普通计算机无法解决的问题。我们为我们时代的达芬奇和爱因斯坦建造计算机。去发现新知识，去解决本来不可能解决的问题。如果其他公司也能做到，我们就会避免那些普通计算机可以做的项目。我们回避和别人竞争，因为如果别人都可以做出来了，我们就不希望浪费时间再做，因为这会浪费我们公司工作的杰出计算机科学家的生命。优秀的人才只会做那些别人没做过，难以做到的工作，这些优秀人才是不愿意重复市场上已经有的东西，这会是浪费他们的生命。因此，我们创造了条件，让优秀人才来到我们的公司，一个平台，让他们可以完成毕生的工作。我为我们迄今为止所做的工作感到无比自豪。
24、这是我非常感兴趣的一点，因为我对NVIDIA提出的一个观点是，在科技领域，与NVIDIA最好的类比是苹果。原因是，苹果以什么闻名？软件和硬件的深度集成，这就是英伟达的基本特点。对我来说，英伟达一开始只是一家硬件公司，然后你建立了这个可以编程的着色器模型，你意识到你必须真正创造这个机会，你必须建立所有的基础设施，你必须建立CUDA，你必须建立所有的SDK，这几乎就是英伟达从一家硬件公司转变为今天真正的集成巨头的原因。
CEO黄仁勋：
完全正确。在成为处理器公司的那一天，必须让自己意识到这种处理器架构是全新的。以前从未有过可编程像素着色器或可编程GPU处理器和类似的编程模型，因此我们发明了他。你必须意识到这是一种全新的编程模式，所有与程序处理器公司或计算平台公司相关的东西都必须被创造出来。所以我们必须创建一个编译器团队，我们必须考虑SDK，我们必须考虑库，我们必须接触开发人员，宣传我们的体系结构，帮助人们认识到它的好处，如果不是，甚至可以通过创建新的库，让他们更容易地将应用程序移植到我们的库中，并看到它的好处，从而接近自己实际做到这一点。甚至到了销售的角度，帮助他们销售这个版本，这样他们就可以在我们的平台上，不断地，不断地，不断地，对这个软件有需求，有一个GTC，这样我们就有了开发者大会。所有这些都源于这种特殊的经历。
25、我认为你们一直在谈论的主题，尤其是在过去几个月里，作为一个AI制造商，人工智能正在制造人工智能，这是你们愿景的一部分，是吗?
CEO黄仁勋：
人类历史上从未有过制造世界上最有价值商品的能力，那就是智力。我们现在有了一个模型的结构，一个被称为深层神经网络的计算机科学程序的结构，它具有极大的扩展能力。这不是摩尔定律每两年翻一番，它每六个月翻一番。翻倍的速度令人难以置信，这对计算的综合影响令人难以置信。这些神经网络和软件能力的结果，由计算机创建的软件正在以惊人的速度扩展和增长，并实现惊人的成就。我们公司正在制造继续推进这一进程所需的计算机，这就是英伟达真正的目的是生产智能。每个公司的某些部分都会自动生产他们的智能，他们会将他们的智能生产编成代码，这就是为什么我相信每个公司都会是一家人工智能公司的原因之一，每个公司都会在一定程度上生产智能，所有这些人工智能都会通过人在回路中的方式来增强人类，这一进展的速度正在加快，每六个月增加两倍。我们希望很多都能在英伟达芯片上运行。这是一件值得期待的好事。首先，什么是智力？智力是识别模式、识别关系、推理并做出预测或计划行动的能力，这就是智力。智力只是解决问题。我们现在有能力编写软件，我们现在有能力与计算机合作编写软件，可以解决许多类型的智能问题，以人类无法达到的规模和水平进行多种类型的预测。例如，我们知道互联网上有一万亿个东西，互联网上的东西数量巨大，而且扩展速度非常快，然而我们有一台叫做手机的小型个人电脑，我们怎么可能从互联网上的一万亿个东西中找出我们想在我们的小型手机上看到的东西呢？在两者之间需要一个过滤器，人们称之为个性化互联网，但基本上是一个人工智能，一个推荐系统。推荐人根据内容的性质、内容的特点、内容的特点，根据你的内隐偏好、外显偏好和内隐偏好，找出一种方法来预测你想看到什么。我是说，这真是个奇迹！从电影、书籍、音乐、新闻和视频，从你所说的产品到诸如此类的东西，都能大规模地做到这一点，这真是一个奇迹。能够预测本想看什么，预测你想点击什么，预测什么对你有用。我说的是面向消费者的东西，但在未来，它将是预测什么是对你最好的财务策略，预测什么是对你最好的医疗疗法，预测什么是对你最好的健康养生法，什么是对你最好的度假计划。所有这些都将在人工智能中成为可能。我们在做的事情是在一个边际成本为零的世界里，互联网上的价值是如何累积的，在这个世界里，内容的爆炸性增长和丰富性，这种价值会累积到那些帮助人们浏览内容的人身上。浏览这些内容的人获得了价值，但必须有人制造芯片和软件，以便他们能够有效地做到这一点。就像过去一样，Windows是面向消费者的一层，Intel是Wintel垄断的另一部分。这是谷歌，Facebook以及其他许多公司，它们都依赖于英伟达。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看，没有账号？立即注册
×
|
窥视卡
雷达卡
发表于 2022-8-18 14:22
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡