软硬结合，GPU/FPGA云服务器为何我们做的更好（2）-英雄云拓展知识分享

请容我感慨一下

    这篇文章写到一半，我突然感慨万千，所以在文章开头插入了这段话。现在回想起来，我还是很荣幸的，有幸能够在这样一个优秀的团队里工作。我们华为云有强盛的硬件后援团，还有牛X满满的顶级虚拟化、OS专家。我们在一起协同工作，共同挑战一个个巅峰。我要感谢晓MM、玉MM、丽MM、松哥、浩哥、国哥、宝哥、杰哥、宪哥、正哥、强哥、达哥、毅哥、旭哥等等等等。好了，收一下，他们的业绩容我以后陈述。

正片开始

    首先大家看下面这个style="white-space:normal;text-align:center;">

可编排的拓扑结构

    立项早期，我看到这个能力，是非常兴奋的。在我眼中，硬件一般都是非常死板的，是甚么就是甚么，没想到还可以这么灵活。看下面这个style="white-space:normal;text-align:center;">

   同一套服务器应对不同的业务，还有一个隐形的优点，就是经济性，或说本钱。像上面这类不同的硬件结构，还有一种思路就是出不同的物理服务器。那末，设计、开发、生产、运维等等环节都要重复花钱，这些花出去的钱必定要从客户的身上再赚回来。所以帮客户省钱，也是我们的一个小优点吧。

一点点个人理解

    要弄好IaaS的设计，不懂业务是不行的。我的意思是要懂，还要有方向地懂。要多理解“城乡结合部”的、容易被疏忽的一些点。这个“城乡结合部”应当怎样理解呢。比如说AI吧，我的目标其实不是弄定各种各样的算法，而是给我们的客户提供合适的云服务器。所以我要做的应当是分析业务对硬件的需求，提供没有木桶效应的云服务器。“软硬结合”中的这个结合部份就是要重点关心的，就是刚说的“城乡结合部”：）客户只需要聚焦于自己的业务，至于在云上怎样样用的更好就交给我们吧。

    若干年前，我参与过一个大数据的性能攻关，对外表现是存储的带宽压力上不去。在这个场景普遍的理解：数据都是大块顺序IO，应当很容易把磁盘的带宽压满。但事实上，软件负责落盘的模块是个多线程的，落盘的大小是1MB，而且线程之间没有关联关系，这本质上是典型的随机IO。1MB的随机IO实际上很难把传统的HDD压满。类似这样对下层系统隐含的需求，就是我说的“城乡结合部”，把这些隐含的需求发掘出来是非常重要的。

高密度PCI服务器

    上面讲了那末多和服务器没用的东西，我是想说，我们每个设计都是从客户业务需求动身的，其实不是为了牛X而做牛X。我上篇文章提到，客户的软件在我们的环境上跑出了两倍的性能。那除单精度计算能力，还能有啥呢。在设计GPU云服务器之前，我浏览了一些HPC相干的论文，发现在仿真的进程中，一些算法会生成大量的临时数据。那这个量有多大呢，我们这个客户在业务运行的进程中，单个GPU运算时的磁盘延续写带宽到达了1.6GB/s，注意是GB不是Gb，这个带宽基本上就是全部NVME SSD的能力了。而一台ECS最大可以配备4张GPU，可以算算业务起来以后，全部系统的延续存储带宽能到达多少。所以我们针对这个场景，我们给ECS的每一个GPU配备了一张NVME SSD。这类1比1的配置在我们上线时，只有华为云能够提供。

    一台服务器上同时插多张P100与NVME SSD，一张P100的满载功率是300瓦，一张NVME SSD的满载功率是22瓦，这对服务器的散热设计就提出了很高的要求。总不能跑着跑着由于过热而降频或宕机吧，那不是会作用我们客户的业务么。再加上上面提到的拓扑编排，可想我们的硬件设计还是很复杂的。

我的理念

    不堆硬件，提供无短板的异构计算服务。

    我们的GPU/FPGA云服务器在公测期间的种种表现也支持了我这个观点的正确性，异构计算领域不是单单提供一块GPU/FPGA这么简单，提供“没有短板效应的系统”的重要性远比“提供最高真个GPU/FPGA”要高。客户需要的是一个均衡的、综合性能好的系统，而不是某些噱头。

    综上，就解释了，我们虽然和友商用了一样的GPU或FPGA芯片，但在一些领域的性能表现却能遥遥领先。

下集预告：硬件级隔离