华为Mate10的人工智能神经网络处理器是什么？

leystage · 发表于 2017-10-23 19:35

最近很多网站都看到宣传Mate10的这个卖点，麒麟970内置人工智能神经网络NPU，性能是CPU和GPU的25倍能耗却更低什么的（数字可能记错了）。
有网站的首页文章还说这个处理器配合微软Bing翻译识别率极大提高，然后讨论对手机人工智能有什么期待。
我书读得少，这个人工智能神经网络芯片是什么？还有原来Bing是本地翻译软件么…？

creymorgan · 发表于 2017-10-23 19:37

专门算低精度卷积和比大小的处理器

leystage · 发表于 2017-10-23 19:43

creymorgan 发表于 2017-10-23 19:37
专门算低精度卷积和比大小的处理器

是说这种处理器适合计算神经网络算法然后可以用来实现人工智能么？

creymorgan · 发表于 2017-10-23 19:46

leystage 发表于 2017-10-23 19:43
是说这种处理器适合计算神经网络算法然后可以用来实现人工智能么？

不是所有方面的人工智能吧，应该主要是认知方面的。

leystage · 发表于 2017-10-23 19:50

creymorgan 发表于 2017-10-23 19:46
不是所有方面的人工智能吧，应该主要是认知方面的。

好吧…感觉自己老了看不懂新事物了 T T

Geminize · 发表于 2017-10-23 21:46

提示: 作者被禁止或删除内容自动屏蔽

EP2 · 发表于 2017-10-23 22:30

Geminize 发表于 2017-10-23 21:46
就是之前那个鸭蛋荣耀Magic的进化版，根据用户的行为累积自行学习，学到一定程度可以更好的收集你的隐私， ...

不一样的，你说的只是软件方面，这次970里集成了寒武纪的硬件ai芯片，路子也是走对的，至少跟谷歌苹果高通一样了

—— 来自 samsung SM-G9350, Android 7.0上的 S1Next-鹅版 v1.3.1.0-play

Geminize · 发表于 2017-10-23 22:33

提示: 作者被禁止或删除内容自动屏蔽

ylns1314 · 发表于 2017-10-24 06:26

你就当是硬件加速卡理解就行了。

— from samsung SM-G920F, Android 7.0 of S1 Next Goose v1.3.2.1-play

纱布姬 · 发表于 2017-10-24 06:56

提示: 作者被禁止或删除内容自动屏蔽

天气姐姐 · 发表于 2017-10-24 07:18

好像pixel里也塞了专门处理tensorflow的芯片

— from OnePlus ONEPLUS A5000, Android 7.1.1 of S1 Next Goose v1.3.2.1-play

66666 · 发表于 2017-10-24 08:02

提示: 作者被禁止或删除内容自动屏蔽

creymorgan · 发表于 2017-10-24 11:34

66666 发表于 2017-10-24 08:02
DL方面的芯片目前还是处于大概1992年3D加速库那种水平，要成熟起码还得再过10年 ...

今年过后神经网络计算硬件在智能手机里普及率估计比当年voodoo在pc里的普及率都高了。
而认脸，认图，识字这些手机级npu足够胜任的功能，也已经在解锁、相机滤镜选择、实时照相翻译这类较高频的场合下得到应用。

我觉得目前神经网络计算的硬件成熟度给个voodoo级别不过分
虽然还需要接2d显卡不能算独立硬件，但是基于三角形和z缓冲的核心机制已经没疑问了。
虽然后面还有硬件t&l、shader、线程化、通用管线等架构变化，但都没有推翻三角形和z缓冲。

神经网络计算的基本结构应该也不会被推翻，实现需要的大规模乘法、累加、比大小功能也就像voodoo那样会成为基本硬件标准，和voodoo之前各种3d图形理论并存，搞3d游戏机会出现贴图变型+新覆盖旧，三角形+新覆盖旧，三角形+z缓冲各一台的情况已经不同了。

而且之后的发展速度我认为会比图形快得多，毕竟推广力量比当年强大太多了。

66666 · 发表于 2017-10-24 11:47

提示: 作者被禁止或删除内容自动屏蔽

creymorgan · 发表于 2017-10-24 12:09

66666 发表于 2017-10-24 11:47
这个还很难说，DL跟3D早期一样，目前各种基础理论和算法还不够成熟

一些现在看起来很牛逼的算法也许过2 ...

精度这种事情在voodoo后也换了几遍了，我认为这些优化是细枝末节，在搞这些之争的时候恰恰是较为成熟的表现。
dx9时代就有著名的fp24还是fp32之争，现在又对fp16重新重视。

treexper · 发表于 2017-10-24 16:13

https://www.chiphell.com/thread-1785739-1-1.html

geniusghx · 发表于 2017-10-24 21:00

提示: 作者被禁止或删除内容自动屏蔽

orecheng · 发表于 2017-10-24 21:05

本帖最后由 orecheng 于 2017-10-24 21:09 编辑

leystage 发表于 2017-10-23 19:43
是说这种处理器适合计算神经网络算法然后可以用来实现人工智能么？

人工智能基于算法，传统处理器处理ai算法太慢，所以需要npu。果子，高通，核弹黄的做法是用gpu来加速处理ai算法；谷歌，500强，非死不可(牙膏厂)是用专用npu来处理ai算法。目前两种做法运算能力差不太多，相同处理能力下，npu更节能，就酱。

B站-小学生 · 发表于 2017-10-24 23:23

提示: 作者被禁止或删除内容自动屏蔽

threefcata · 发表于 2017-10-25 00:33

可以做出手机里跑的虚拟二次元AI的话就好了

orecheng · 发表于 2017-10-25 00:36

B站-小学生发表于 2017-10-24 23:23
不太明白手机除了拍照外还有哪些地方需要用到本地的人工智能，我所了解的多是像一代狗一样上传到服务器去 ...

需要即时离线神经网络算法处理的数据目前只跟摄像头有关，摄像头还能拿来录像啊，AR游戏啊。

whzfjk · 发表于 2017-10-25 03:12

提示: 作者被禁止或删除内容自动屏蔽

66666 · 发表于 2017-10-25 08:28

提示: 作者被禁止或删除内容自动屏蔽

mimighost · 发表于 2017-10-25 08:30

leystage 发表于 2017-10-23 19:43
是说这种处理器适合计算神经网络算法然后可以用来实现人工智能么？

就是用来算卷积，池化和一些操作符的asic而已，而且仅限于interference

mimighost · 发表于 2017-10-25 08:33

本帖最后由 mimighost 于 2017-10-25 08:40 编辑

leystage 发表于 2017-10-23 19:43
是说这种处理器适合计算神经网络算法然后可以用来实现人工智能么？

现在的人工智能其实就是神经网络的马甲，现有的这些实际应用的神经网络说到底就是一个数据流图，输入是多维矩阵，图里的节点是各种各样的操作符。这些个神经网络的芯片就是封装了这些操作符的硬件实现而已。这么做的好处有几个：1.速度更快 2. 更省电。3.推导的精度要求比训练低，训练一般不会低于单精度，但是推导可以低到几个bit，没有必要放到cpu或者gpu上跑。4.可以吹牛逼。

mimighost · 发表于 2017-10-25 08:36

本帖最后由 mimighost 于 2017-10-25 08:37 编辑

B站-小学生发表于 2017-10-24 23:23
不太明白手机除了拍照外还有哪些地方需要用到本地的人工智能，我所了解的多是像一代狗一样上传到服务器去 ...

语音识别啊，比如关键的启动字什么的都是本地的model来做的。拼写纠错什么也有用神经网络作的，那自然也是本地的。一般应对的都是简单但是低延迟的场景。

leystage · 发表于 2017-10-25 11:45

感谢大家回复…还有一个问题，这个神经网络算法和大脑神经有多大关系？听起来好像距离人工智能很近的样子

B站-小学生 · 发表于 2017-10-25 12:46

提示: 作者被禁止或删除内容自动屏蔽

mimighost · 发表于 2017-10-25 13:12

B站-小学生发表于 2017-10-25 12:46
第三方软件端是需要适配吗，还是调用api？

— from OnePlus ONEPLUS A3010, Android 7.1.1 of S1 Next G ...

都可以。如果开放的话，可能会像苹果那样，提供各种DL框架的适配器，把你训练好的模型转化成这个芯片能支持的格式。

creymorgan · 发表于 2017-10-25 15:56

leystage 发表于 2017-10-25 11:45
感谢大家回复…还有一个问题，这个神经网络算法和大脑神经有多大关系？听起来好像距离人工智能很近的样子 ...

有一点类似。
相乘的加权量类似神经之间的链接关系。
人类学习过程会调整神经细胞之间链接紧密程度，而机器学习会修改加权量。

66666 · 发表于 2017-10-25 16:03

提示: 作者被禁止或删除内容自动屏蔽

		自动登录	找回密码
密码			立即注册

Geminize Geminize 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2015-7-21 头像被屏蔽	发表于 2017-10-23 21:46 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

Geminize Geminize 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2015-7-21 头像被屏蔽	发表于 2017-10-23 22:33 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

纱布姬纱布姬当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-4-11 头像被屏蔽	发表于 2017-10-24 06:56 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

66666 66666 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2002-8-22 头像被屏蔽	发表于 2017-10-24 08:02 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

66666 66666 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2002-8-22 头像被屏蔽	发表于 2017-10-24 11:47 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

geniusghx geniusghx 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2017-5-23 头像被屏蔽	发表于 2017-10-24 21:00 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

B站-小学生 B站-小学生当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2017-4-5 头像被屏蔽	发表于 2017-10-24 23:23 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

whzfjk whzfjk 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2015-5-11 头像被屏蔽	发表于 2017-10-25 03:12 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

66666 66666 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2002-8-22 头像被屏蔽	发表于 2017-10-25 08:28 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

B站-小学生 B站-小学生当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2017-4-5 头像被屏蔽	发表于 2017-10-25 12:46 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

66666 66666 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2002-8-22 头像被屏蔽	发表于 2017-10-25 16:03 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

[移动] 华为Mate10的人工智能神经网络处理器是什么？