ai软件技巧2019全球AI芯片创新峰会在上海成功举办！（附视频）

编|轩窗

3月15日，由智东西主办，AWE和极果联合主办的GTIC2019世界AI芯片创新大赛在广州成功举行！本次会议报名参展的观众覆盖了近4500家企业，到会读者极为专业，其中总监以上级别占比高于62%，现场实际到会数量达到1800位。

大会现场，来自中国半导体三巨头高通、英特尔、华为；中美两大最顶级AI芯片创企地平线与WaveComputing；中国互联网大佬百度；AI芯片明星创业公司寒武纪、比特大陆及其海尔优家和大华等AI芯片重要落地领域头部企业的20位业界翘楚共聚一堂，系统的阐述了AI芯片在构架创新、生态形成、场景落地等方面的科技前景和行业趋势。

▲华为无线终端芯片业务部部长主管王孝斌

针对中国芯片行业格局，华为既是挑战者，也是创新者。会上，华为无线终端芯片业务部部长顾问王孝斌带来了主题为《华为HiAI如何推动应用迅速智慧化》的发言，分享了华为在深化端侧AI能力开放、AI生态建构上的宝贵经验。

王孝斌认为，尽管端侧AI应用百花齐放，但其也遭受着很大的挑战：计算密集、复杂，计算需求很大，对即时性规定特别高；运行环境受限，功耗、内存、存储空间的很大挑战；越来越多的应用带AI，应用场景多样性的挑战；各类新型算法、网络层出不穷的挑战。随着AI科技变革的不断繁荣，技术系统建设，需要加快迭代以支持这种变革能力。

在峰会上，王孝斌海讲述了华为在AI生态建设上的心得。当前麒麟970、980+HiAI1.0、2.0已经有了BAT、抖音、快手等1400多个合作伙伴，吸引了达到56万的研发者，服务客户达到了4000万。华为手机即时像素级的人体分割、马卡龙的实时像素级别AI抠图、抖音魔法背景都是华为HiAI提供的加速赋能。对用户来说，HiAI则带有三大价值，来低速率即时的应用体验、本地计算的隐私保护并且费用的降低。

附华为无线终端芯片业务部部长顾问王孝斌演讲实录

王孝斌：大家好！我叫王孝斌，来自华为。感谢智东西的邀约让我有机会代表华为和你们分享一下华为在端侧AI、HiAI上的进展状况，今天我分享的主题是《华为HiAI如何推动应用迅速智慧化》。

两年前，华为在中国首发集成NPU的麒麟970芯片引发了相当大的轰动，全球的各大媒体、如MIT、CSO等权威媒体对AI趋势提出了自己的见解，比如端侧AI算力的提高如何在将来更好地塑造我们的生活、怎么把智能手机向智慧手机的转移、端侧AI带来的隐私保护和客户对自己数据的所有权，还有整个端侧的机器学习会让手机更加越来越智能越来越强大。有人分析到2022年80%以上的手机会具有端侧AI的素质，今天你们也发现了这些趋势方面的分享，端侧AI是大家公认的一个发展趋势。

作为端侧AI的先行者，华为在应用和应用的紧密配合中华为也发现越来越多的弊端。首先是科技的密集，非常复杂的计算规定，以及即时性的挑战特别高。另外在运算环境方面是受限的，一个手机拿在手上的它的性能、尺寸、存储各方面都是相当受限的。另外，端侧的应用都是五花八门，花样繁多的，而且目前越来越多的应用带AI，对画面的丰富性和多样性强调了相当高的挑战。此外，新型的算法、新型的网络层出不穷。大家在这个市场也都十分明白，这是一个高度创新的领域，全球最聪明的头部都汇聚在此，对于系统来说必须支持这种创新能力。上图右侧中，大家可以看见这是愈发越多带有端侧AI能力的应用。

在麒麟970推出的之后，华为也推行了HiAI移动AI开放系统，考虑在芯、端、云三个层次提供AI接入能力。在云侧提供了HiAIService，可以做到让服务迅速、主动地找到人；在端侧提供了HiAIEngine的服务，用户、开发者可以快速让应用获得智慧化能力；芯片侧则由HiAIFoundation提供加速，性能和能耗比明显提升，让合作伙伴的应用可以在NPU的加速下赢得更好的极致体验。

HiAI平台已有1400多个合作伙伴，吸引了达到56万的开发者，BAT、抖音、快手等头部应用都是我们重要的合作伙伴。在上面的演示里大家可以看见更生动的展现。大家听了一晚上终于疲劳了，看看我们的演示可以给你们带给新鲜的觉得。

HiAI给用户带来的价值有三个方面：

1.实时性。在端侧本地完成计算，所以降低了计算上云的需求，消除了上云的时延；由于是本地加快，计算速率比传统CPU、GPU加速更快。所以在本地计算和本地加速两个视角都可以增加时延。

2.隐私保护。由于数据不用上云在本地完成处理，用户自己拥有数据的所有权，因此隐私也受到了保护。比如图像风格化，大量数据都是在本地完成处理的，不应该上云。

3.成本降低。成本方面也包括两个维度，一是网络存储成本，大量数据往云存储占用流量的费用；再者在本地完成计算，减少了服务器对软件的需求，因此在链路、流量、服务器侧都增加了成本。

以下是几个应用实例：

第一个案例是三星手机上相机内置的原生应用——AI视频留色，通过即时像素级的人体分隔，通过AI留色让人物能展现自己的主角光环，除了主角和明亮的服饰色彩外，画面其余个别都是黑蓝色的。

第二个案例是与马卡龙的合作，通过AI带来摄影的革命，一键P图可以让用户置身于天涯海角。其相关科技包含Inpainting、像素分隔。在HiAI的帮助下可以推动实时、随意的更改。

SketchAR是一家美国的将AI和AR技术结合的公司。这家公司的应用十分有特色，让消费者可以借助手机直接看见临摹的效果，是让入门者进阶为艺术大师的十分好的一款应用。这款应用在之前没有HiAI加持的之后，延时抖动非常大，消费者感受十分差，有了HiAI的加快后，抖动和延时大力度减弱，基本做到了即时跟随的效果。

抖音、快手在中国有着几亿的顾客，深受消费者的喜爱，华为与它们也进行了合作。这些应用之前都有卡顿、吞帧，稍微玩一会儿手机就发烧烫手的难题。HiAI提供加速的素质，抖音提供算法，解决这一难题。如上图，左边是魔法天空，利用手势一动天空就会进行变换。

与快手的合作，算法来自快手，HiAI提供加速的能力，可以即时测试运动的手势，实现自动切换。上图中红衣服少女的后边没有HiAI进行加速，右边是有HiAI支持的，大家可以见到它们的效果有巨大的差异。

相信在座很多小孩都学过围棋，我们和聂卫平棋圣有一个合作，把一个“AlphaGO”装入手机，在手机上可以实现业余四段的下围棋的水准，可以达到95%以上普通下围棋的水准。最关键的一点，这一应用可以在完全离线的状况下推动，让客户不管是在车上、深山老林等任何没有网络的地方都可以享受到下围棋的乐趣。

这是Prisma，很多消费者也许听说过这个应用，它在刚推出的之后大获差评，在中国的客户量逐渐下降。但刚起初的之后，Prisma的风格化只能在云上处理，所以一度引起其服务器宕机，这是它的巨大的一个痛点。在与HiAI合作后，在本地完成风格化快速将其服务器的花费降出来，也让其处理时间由上云的9.6秒降为基于HiAI本地处理的3.2秒，时延的减少十分惊人。

相信明天会有众多同事拍一些PPT的合照，华为和WPS还有一项合作，可以做到用户在将自己拍的相片上传后一键生成PPT，这是完全手动化的操作，相信对大家商务专家是十分实用、贴心的应用。上传后也有文档的手动测试和测量用途，可以做到文字图像的超分行及其通用OCR（图像文字辨识）。大家可以在小米应用行业上下载WPS，充分感受到HiAI加持下的新移动办公。

相信所有朋友每天都会用到诸多输入法，但目前输入法有一个难题——预测不精确，不能确切地理解你的含义。华为和百度进行了合作，通过HiAI加速运行更复杂的模型，好处则是无法在不牺牲性能、延时性能受到保证的状况下，得到更精确的内容分析。如上图案例，“妥协”和“拖鞋”中用户是想输入“妥协”的，传统的输入法是不会理解你的含义的，但有了HiAI之后，可以精确地分析你想输入的内容。

有道翻译也有众多朋友在长期使用的一款应用，随时随地、快速翻译、是相当具有挑战的。华为通过HiAI的加快与有道进行了深度合作，将离线翻译的速度从30%提高到了40%。当发生英语时，迅速中文翻译同步跟上，真正做到了跟世界的自在沟通。

通过上面这几个实例，大家可以看见HiAI可以在这些领域做赋能，如短视频、直播、社交平台、AR、拍照修图、购物、游戏、翻译和文字处理都有长期的应用实例，也给这些消费者带给了积极的感受。

那么其背后的科技是哪个？相信你们都非常好奇，HiAI基于NPU集成了专业的指令集和计算库ai软件技巧，可以高效地执行神经网络算子。最早的之后CPU处理标量计算，GPU处理失量计算，在AI时代专用的NPU处理张量计算，这是最合适AI应用的。HiAI采用了这些种改进方式，包括编译、融合等，尽量将计算在本地完成，还有大型化、稀疏化等方式，可以推动迅速简洁有效的推理预算。

HiAI的版本迭代也是相当迅速的，第一代HiAI1.0是随着麒麟970推出的，去年推出了第二代HiAI2.0。从HiAI1.0到HiAI2.0，HiAI平台的素质也在迅速增强。在素质上，物理识别从1.0的非常粗粒度到HiAI2.0的能否支持轮廓、姿态细粒度的物理识别；在图像识别方面，从HiAI1.0的截图到HiAI2.0的视频处理，实时分割也做到了准确的像素级分割。

HiAI的开发友好性也在稳步推进。HiAI1.0支持Caffe、TensorFlow、AndroidNN等主流框架，到了HiAI2.0增加了ONNX等更多的框架，支持CPU、NPU混合建模调度或者模型并发运行。

在算子方面，HiAI2.0也有大幅度提高，算子个数从90个降低到150个。在工具链方面，HiAI2.0有更友好的工具链，包括INT8的建模或者模型转换，在兼容性方面也考量到了INT8的兼容性。

另外，HiAI2.0开发强度也是相当大的提高ai软件技巧，芯片级Foundation从四个月增加到一个三天；基于云的Service层面由一个三天提升到1天；基于端侧HiAIEngine从每天提升到一个小时。

华为HiAI的目的就是做好“黑土地”，促进AI的应用百花齐放，希望在AI的大时代贡献出我们的一份力量。

谢谢你们！