凛凛233 发表于 2019-10-15 01:56
其实严格地说，人类不是冯诺依曼机
人的大脑为了处理逻辑问题，在神经网络之上的意识层面“虚拟出” ...
图灵机和冯诺依曼结构根本是两个领域的概念
图灵机在数学领域上和很多其他结构（lamda算法、元胞自动机、神经网络）等效
冯诺依曼结构只是对图灵机的一种工程实现而已
你说现在的计算机都是纸带长度有限的图灵机倒也没错，但在数学意义上一个标准图灵机也能模拟其它图灵机，除了运算速度以外复杂度并没有本质差别
图灵机和冯诺依曼结构从来也不是为了模仿人类而制造的，前者更接近于数学意义上的模型构建，只不过比起其他的计算模型图灵机很适合工程实现而已
说到这里，有个很有趣的论题：一个完美记忆，不会出错的人使用纸笔的计算能力完全等价于一台图灵机，当然，这是个假设
这一点直接指向了等效的强AI假设，人脑能做到的事机器就能做到
当然要是采纳人脑有某些特殊结构（比如内含的量子效应）的话，那么人脑就能在某种意义上超越标准图灵机，这个时候用普通电子元件造不出来AI也是可以理解的了
凛凛233 发表于 2019-10-15 01:56
其实严格地说，人类不是冯诺依曼机
人的大脑为了处理逻辑问题，在神经网络之上的意识层面“虚拟出” ...
忆阻器并不能增强计算能力
通常认为超越通用图灵机的计算模型都是不能被造出来的
本帖最后由 无限舰制 于 2019-10-16 02:01 编辑
Austaras 发表于 2019-10-16 00:56
忆阻器并不能增强计算能力
通常认为超越通用图灵机的计算模型都是不能被造出来的 ...
是这样
一帮子超图灵机不是要求无限能源就是物质无限可分，要不然干脆逆时序
不过我是认为强AI的可实现性跟可计算性这个大问题不太相关，要不了多久就能做出来了
虽然GEB的作者认为AI的逻辑系统没法处理自指问题，但一套严格清晰的逻辑系统不见得是必须的……
自然语言的不精确度导致你很难说这是个严格的“逻辑系统”
无限舰制 发表于 2019-10-16 00:49
图灵机和冯诺依曼结构根本是两个领域的概念
图灵机在数学领域上和很多其他结构（lamda算法、元胞自动机 ...
不是模仿人类，那是模仿谁呢
地球上之前也没有什么其他的东西能做这种事
怎么说呢，
图灵在造图灵机时，就是在重现＆提炼自己解决数学问题的步骤
有意或无意的模仿了自己（当然是有意的）
然后，ai的瓶颈与量子效应无关
Austaras 发表于 2019-10-16 00:56
忆阻器并不能增强计算能力
通常认为超越通用图灵机的计算模型都是不能被造出来的 ...
谁告诉你忆阻器是为了增强计算能力啊，又不是在造计算器，不用追求那个
写的很清楚，是为了组建神经网络，你应该先了解一下人脑的工作原理
本帖最后由 无限舰制 于 2019-10-16 02:12 编辑
凛凛233 发表于 2019-10-16 01:58
不是模仿人类，那是模仿谁呢
地球上之前也没有什么其他的东西能做这种事
这么说吧……我倾向于是认为人脑在逻辑推理时的工作机制和图灵机等效
并不存在模仿人脑这一回事，我们只是从神经网络里提炼出了一个标准的计算模式
图灵机是“还原”出来的
现在问题的焦点回到人脑有没有一些通用图灵机所不具备的特别功能这个问题上
顺带一提我是支持整个宇宙可以用一台通用图灵机模拟的……换句话说，我根本不需要什么特异功能，通用图灵机这个模型本身就可以模拟包括人脑在内的一切东西
上面这是逻辑层面的问题，但我认为具体到现实里大家只会关注计算机的性能和应对问题的能力，这属于怎么提升计算能力的技术问题
这方面的瓶颈……我觉得就不是“定义人和AI的根本差别”的问题了，而纯粹是行为主义的，看起来差不多就可以认为AI有智能了我觉得神经网络本身并不具有物理上的优越性……你拿规范化的集成电路和冯诺依曼结构一样能等效化
何况人脑的工作原理本身就不是一件很好搞清楚的事
无限舰制 发表于 2019-10-16 02:08
这么说吧……我倾向于是认为人脑在逻辑推理时的工作机制和图灵机等效
并不存在模仿人脑这一回事，我们只 ...
图灵机是怎么还原出来的
凛凛233 发表于 2019-10-16 02:11
图灵机是怎么还原出来的
我想了想这个问题得再继续回溯来看我们的分歧
首先是不是所有现实问题都可以还原抽象成计算问题来解决……
认同这一点的话图灵机就是试图标准化“计算”这件事，读取状态，储存状态，按照计算规则变动状态，再输出
当然，就人脑而言，很多时候并没有明确意识到自己在做计算这件事
但开发强ai的时候也没必要拘泥于对齐人脑啊
凛凛233 发表于 2019-10-16 02:05
谁告诉你忆阻器是为了增强计算能力啊，又不是在造计算器，不用追求那个
你楼下说的很好了, 这里的计算能力不是说的一般的performance而是computability
制造神经网路并不需要物理上的还原才能制造, 使用图灵机模拟是可行的
本帖最后由 无限舰制 于 2019-10-16 02:35 编辑
其实这里就触及到我刚才说的关键点了啊，到底运行在集成电路上的“神经网络算法”和人脑的神经网络是不是一回事？
作为数学模型的神经网络和图灵机算法被证明是等价的了，但上面那个问题还等待着脑科学和认知科学的研究
人脑可能的确因为特殊的物理存在形式导致了其和抽象出来的神经网络算法有着区别——比如说这玩意万一真的是某种超图灵机呢？比如说量子效应或者别的什么奇奇怪怪的玩意导致人脑不能完全等同于标准计算模型的话……
这个时候回归到物理搭建神经元（哪怕是塑料和金属的）网络就是有意义的了
虽然我个人倾向于人脑并不具备这种等级的特殊性，不过也没什么证据，只能说是“地球非特殊”的一点延伸观念吧
不过至少现在看来这个领域还远远没有走到瓶颈，单单是模拟出来的神经元数量都不如人脑，更别提互相连接的复杂性，等到神经网络算法的模拟真的在规模上等效于人脑却还没涌现出智能的时候，再回过头来关注物理上的神经元也不迟
Austaras 发表于 2019-10-16 02:23
你楼下说的很好了, 这里的计算能力不是说的一般的performance而是computability
制造神经网路并不需要物 ...
虚拟，那要多没效率
不只是没效率那么简单
无限舰制 发表于 2019-10-16 02:19
我想了想这个问题得再继续回溯来看我们的分歧
首先是不是所有现实问题都可以还原抽象成计算问题来解决… ...
我觉得，你还是先回答这个问题
凛凛233 发表于 2019-10-16 02:35
虚拟，那要多没效率
不只是没效率那么简单
可是制造物理性的神经元这个过程我也可以说相当麻烦又没效率啊，至少不能光刻机一排印出来大批量生产
人脑神经元互联的模式要求立体走线，电力驱动又有严重的发热问题，到最后非得还原突触的电化学机制不可
最后再提一点，人脑的体积和规模是为了生物使用被自然选择优化过的，你拿去处理很复杂的问题反而吃瘪
我要个锤子效率，直接暴力堆数量和体积超越人脑啊
为什么冯诺依曼结构成了图灵机的物理实现模式？还不是因为方便啊
我再提供一个思路吧，你觉得计算机模拟水蛭神经网络能等效吗？等效的话我们就可以加规模加数量模拟自然进化的过程过渡到人脑
这个问题是在确认你的立场：神经网络是不是有某种特殊性
——还是说，单纯因为神经网络在处理复杂现实相关问题的时候效率最高而已，你可能是认为按照上面那种升级进化过程会导致造出来的计算机效率奇低根本不实用？
我想确认下你的态度，这决定了我们要讨论工程技术问题还是某种意义上的数学和逻辑相关问题……
无限舰制 发表于 2019-10-16 02:46
我再提供一个思路吧，你觉得计算机模拟水蛭神经网络能等效吗？等效的话我们就可以加规模加数量模拟自然进化 ...
不是，图灵机到底怎么还原出来的
你质疑了我前面说的话，没说清楚不行啊，是不是
以后说着说着，你又跳过去转移话题了怎么办，我没时间在这跟你绕啊
图灵死的怨啊
咱先回去，怎么样
凛凛233 发表于 2019-10-16 02:55
不是，图灵机到底怎么还原出来的
你质疑了我前面说的话，没说清楚不行啊，是不是
我说过了啊，图灵机就是还原人在纸上做计算的过程，储存状态，根据规则进行计算，输出状态
本帖最后由 凛凛233 于 2019-10-16 03:13 编辑
无限舰制 发表于 2019-10-16 03:02
我说过了啊，图灵机就是还原人在纸上做计算的过程，储存状态，根据规则进行计算，输出状态 ...
那不就是模仿人吗
我说
图灵在造图灵机时，就是在重现＆提炼自己解决数学问题的步骤
有意或无意的模仿了自己（当然是有意的）
你说不是，那是怎么造出来的
凛凛233 发表于 2019-10-16 03:10
那不就是模仿人吗
这个嘛……更接近语义学上的问题吧
如果说是“陈述历史”的话，那么计算模型的来源的确是模仿人类的智能活动
但在这里我是想突出一个“计算活动绝非人类专属”的意思……或者说这个模型被提炼出来以后就超越了单纯的模仿，毕竟直觉也可以计算化（这个是我个人认可的一个前提）
凛凛233 发表于 2019-10-15 19:58
不不不，我们不一样求你了，
你说的那种“分析”，和意识不是一回事，那些都无法进入意识层面
不明白你想说什么
巴甫洛夫的狗 条件反射实验 条件反射能力在狗身上起效果，在人身上一样有效呀。
是想说人不具备条件反射能力？
还是想说，狗具备条件反射能力，所以它只具备这样的能力？
那人也具备条件反射能力，所以人也只具备这样的能力？？
和真克瓦尔 发表于 2019-10-15 23:32
可是“人的歌vsAI的歌”是核心冲突之一呀。AI为什么需要吃饭泡澡？谁给他编的骗人的程序？这么人性化为什 ...
安杰拉、fire男的歌都是用AI创作的，他们什么时候比主角差了？
这动画的唯一核心只有“卖歌”，所谓的“AI vs 人”只是你的一厢情愿
— from Google Pixel 2 XL, Android 10 of S1 Next Goose v2.1.2
现在的ai算不算ai？
现在人类使用（“奴役”）ai算不算和平共处？
如果都是的话，那现在人与ai的关系会一直持续下去。
如果这里的ai仅限于具备自我意识与自由意志的强ai的话。
那么这样的ai算不算人？
如果算人，那么具备全面的更强能力的新人类逐渐淘汰替代掉旧人类不是理所当然的事情？
如果不算人，我们该如何处理它？
换句话说 我使用/奴役/随意的杀掉你 你干不干？
本帖最后由 无限舰制 于 2019-10-16 04:11 编辑
azq123wsx 发表于 2019-10-16 03:58
现在的ai算不算ai？
现在人类使用（“奴役”）ai算不算和平共处？
如果都是的话，那现在人与ai的关系会一直 ...
看具体情况啊
第一种，人自己逐渐AI化，各种植入物脑部强化，两者界限越来越模糊
第二种，“天性”，ai可不是动物，就算要做人类看起来很辛苦的工作也不一定会抱怨
第三、对于超智能而言自我意志与意识或许是完全不能以人类的方式理解的……他们也许根本就不在乎人类
总之，我不是太建议直接把国家/种族关系往AI身上套……
就提生死观这一件事，我能把自己复制粘贴的时候，或许我会觉得在乎生死的人类才奇怪……
网络化集群意识损失一两个终端根本无所谓
最小的ai完全可能是动物化亚人类等级的，没多少明确的自我主张，渗透到每个人身边
最大的ai又很可能是超越人智，直接等同于整个社会网络，担负着人类社会运行的基本工作的——换句话说这种巨型系统一旦觉醒了你没什么办法反抗，除非两败俱伤，而这件事在超智能保持理性的前提下大家都不想看到
至于一般人最担心的那种住在人形身体里和人类一样整天吵吵闹闹的“普通AI”或者说换皮人类我反而觉得没必要大量制造，在关键岗位上有就行了——甚至这些岗位都可以交给超智能的分支来做
无限舰制 发表于 2019-10-16 04:03
看具体情况啊
第一种，人自己逐渐AI化，各种植入物脑部强化，两者界限越来越模糊
关于第二条第三条 稍微说下
“新人类”只是单纯比 旧 人类 全方面的更能干，资本会自然的往“新人类”身上富集，也没有什么理由分配给 旧 人类。旧 人类缺少资源，并一直被剥削， 自然的就消亡了。到时候 旧 人类就算想反抗，也是“新人类”全方面的更具备优势，也反抗不了，不存在两败俱伤的情况。旧 人类 不愿意看到这种情况，是旧人类的事，和“新人类”又有什么关系呢。
对于强ai的展望，我也比较支持第一种想法。植入强化部件，强化人类大脑本身。或者说，把强ai的作用限死在人类肉体之内。与人的大脑/身体，一同运作也一同消失。成为人类自我意识的一部分，天然且全然的利益共同体。
不是，楼主看过《深渊上的火》或者王晋康写的《养蜂人》嘛？
无限舰制 发表于 2019-10-16 04:03
看具体情况啊
第一种，人自己逐渐AI化，各种植入物脑部强化，两者界限越来越模糊
不过这样的想法也就意味着，我认为，人的概念是锚定于肉体而存在的。
人之所以是人，狗之所以是狗，只是因为物种不一样，和自我意识，自由意志没什么关系。
azq123wsx 发表于 2019-10-16 03:44
不明白你想说什么
巴甫洛夫的狗 条件反射实验 条件反射能力在狗身上起效果，在人身上一样有效呀。 ...
我当然是说，他前面几楼说的那些不能证明狗有意识
本帖最后由 凛凛233 于 2019-10-16 17:32 编辑
无限舰制 发表于 2019-10-16 03:13
这个嘛……更接近语义学上的问题吧
如果说是“陈述历史”的话，那么计算模型的来源的确是模仿人类的智能 ...
“陈述历史”，你们读书人真能整词，我也是服
o(︶︿︶)o 唉
长篇大论时，夸夸其谈
被动挨打时，云山雾罩
就不能老实点，乖乖认了
是就回答是，不是就回答不是嘛
你想干嘛不关我的事，不要来碰瓷我
啧
算了，
大概类似现在得美国把。
AI看到普通人类在油桶啊电池啊边上，掏出**连射一个**
我觉得人工智能发展到一定境界就是人类共同体，人作为个体无法完完全全带入人类这个概念，导致大多数行为是处于个体利益考虑，但是最为理想的强人工智能是有可能将自己作为人类来进行决策判断，例如现在的许多大数据分析后我们就可以判断一些现在很难取舍的东西，而这个人工智能本身也是盖亚这个概念的具象化
凛凛233 发表于 2019-10-16 09:38
“陈述历史”，你们读书人真能整词，我也是服
o(︶︿︶)o 唉
长篇大论时，夸夸其谈
这个问题了结了其他问题还没完呢
我就想问你你是不是觉得人脑有什么特殊性，集成电路没法取代而已
——还是说单纯觉得人脑效率特别高？
当然，懒得继续讨论也无所谓，大家水贴娱乐而已
无限舰制 发表于 2019-10-16 15:17
这个问题了结了其他问题还没完呢
我就想问你你是不是觉得人脑有什么特殊性，集成电路没法取代而 ...
你这个人不老实
我这会儿也懒得理你
埃奈西德穆 发表于 2019-10-12 12:51
总结你说的两点：（1）人类的行为不仅仅是基因影响，他还受到文化等社会要素的决定，（2）自由意愿的幻觉 ...
我完全是个哲学门外汉，不过我确实认为所谓“意志”不管自不自由都不存在，人类说到底也就是一堆大分子罢了，人的意识是无数自然现象（准确点说，化学现象）中的一种。
但你说的那些“强决定论”【她没法为自己的行为负责，因此我们没有理由谴责或惩罚她，也没有理由称赞或者奖励她】【没人能够为自己的状态负责，多劳者多得这种道理也不再适用了】【如果人不具有这个能力，道德规则也毫无约束力，不如废弃】这几条是如何推导出来的我真是摸不着头脑，这就好比一条河会泛滥，反正河没有人类的意识，不能决定自己泛不泛滥，也不能摆脱物理法则——所以水利工程不如废弃？？？
凛凛233 发表于 2019-10-16 08:45
我当然是说，他前面几楼说的那些不能证明狗有意识
突然想到 不要说狗 连竹鼠都会得抑郁症
一个会抑郁症的生物有没有精神与意识？
铁臂阿童木后期还有浦泽直树的改编的PLUTO感觉凑合算是
本帖最后由 ipcjs 于 2019-10-17 12:33 编辑
和真克瓦尔 发表于 2019-10-16 08:40
https://bbs.saraba1st.com/2b/thread-1857620-1-1.html
这一贴里说AI的部分把我想说的基本说了。 ...
这贴我唯一不赞同的就是AI部分，作者先预设“动画反对AI”的立场，再举动画里的“例子”，说“这些例子毫无说服力”。
动画根本没有所谓“反对AI”的立场，能有说服力才怪
典型的先放屁股再找证据，找不到就说这动画不行
让AI拥有和人类一样的感情就好，够白左就不会消灭人类了。如果AI也会考虑关机是不是等于死了一次，数据转移后的自己还是不是自己这样的问题，也可能就启动后永不关机，一个硬盘用到底，实际寿命也不是无限的。更不会考虑无限增殖新的，更强的AI来淘汰自己。
