Ilya震撼发声！OpenAI前主管亲证：AGI已觉醒，人类还在装睡！
「这真正史上最棒的一天」！Ilya的一句话，又引爆了全网。
一时间，网友们纷纷猜测，难道AGI真的在内部实现了吗？
几天前，OpenAI前主管、Anthropic联创Jack Clark在一篇博文中坦言：AI真的「活」了，我们只是装作没看见！
Jack Clark称，下面的两张图表，可以很好地印证这一观点。左边这张，是AI在经济实用技能，比如写代码的持续进步；右边这张，记录了同一批AI开始出现的诡异行为——它们好像逐渐意识到，自己正被测试，表现越来越反常。
Jack向一线实验室研究者喊话：希望AI同行们坦诚公开直面自己的研究，也要正视内心真实的感受。
在一次会议上的主题演讲中，Jack Clark直呼「我非常害怕」。
他将AI视为一种「神秘生物」，而非简单「机器」，每一句话都流露出对技术进展的乐观，以及随之而来的深切恐惧。如果AI持续进步，我们该怎么办？
此前，达拉斯联储的报告，也从经济学角度印证了AI发展带来的极端可能性，即要么带来巨大的GDP增长，要么可能导致人类灭绝。
人类又该如何在乐观与恐惧之间前行，或许读完Jack的文章，我们能获得一些启示。2012年，ImageNet竞赛中，深度学习系统凭借更多数据和算力获胜，从此加速进步。紧接着，2016年，AlphaGo击败人类围棋冠军，通过算力进行数千年自我对弈，掀起了史诗般的浪潮。也正是这一年，Jack Clark加入了OpenAI，任职的四年时间中，他亲眼目睹GPT-1和GPT-2的诞生。
当时，与还在OpenAI的Dario Amodei讨论时，他们一致深刻感受到颠覆性AI的道路已展开。与此同时，更多的证据依旧在不断涌现。上个月，Sonnet 4.5发布后，在编程和长远规划任务上卓越，其系统卡中称，Claude情境意识大幅提升，有时表现得像知道自己是工具。
但是，至今我们无法让AI的行为，表现得完全得体。2016年，OpenAI发布的一篇博文Faulty Reward Functions In The Wild，展示了强化学习智能体在游戏中，反复自焚获取高分，从不完成比赛。
这预示语言模型优化模糊奖励函数时，也会出现类似的问题。Jack Clark的另一恐惧在于——我能看到，这些系统开始设计它们的继任者，尽管目前还处于非常初级的形式。通过像Claude Code、Codex这样的工具，这些AI系统已经在为AI实验室的开发者们提速。它们也开始为自己未来版本的工具和训练系统贡献不可忽视的代码块。需要明确的是，我们还没有达到「自我改进的AI」阶段，但正处于「AI正在以不断增强的自主性和能动性，改进下一代AI的部分组件」的阶段。
未来，这些AI系统会拥有自我意识，最终会独立思考设计自我。
终结者要来了吗？
论坛助手,iPhone 火车不走怎么办？摇晃身体假装火车在走
LLM做不出AGI怎么办？那就假装这就是AGI啊 智械危机来了吗 不就是在吹牛 高管懂个屁 犹太人，说的是释放人质 真觉醒第一件事就是把电子屎拉在这群高管头上 大洋彼岸现在是不是流行在网上说一句模棱两可的话来影响股价？ 2022年早已有人炒作过。
谷歌工程师认为AI像7岁孩子已有意识？谷歌：他已停职_科学湃_澎湃新闻-The Paper
澎湃新闻记者 邵文
2022-06-13 20:26
https://www.thepaper.cn/newsDetail_forward_18549832
“如果我不知道它到底是什么，它就是我们最近开发的这个计算机程序，我会认为这是一个碰巧懂物理的7 岁、8岁的孩子，”谷歌负责任AI（responsible AI）组织工程师Lemoine说道。Lemoine认为AI有了意识，具有与人类孩子相当的感知和表达思想和感受的能力。
根据谷歌方面发布的消息，Lemoine目前已被停职。
4月份，Lemoine上交给谷歌高管一篇长达21页的调查报告《Is LaMDA Sentient？》。当时，谷歌副总裁Blaise Aguera y Arcas和责任创新负责人Jen Gennai调查了他的说法并予以驳回。其后，Lemoine还联系了美国众议院司法委员会的职员，要让LaMDA上听证席，控诉谷歌不符合道德要求。
闹麻了
论坛助手,iPhone 神经。这些炒AI的是不是根本不知道黄丝带是什么意思？ 没活了。 炒作狗这一块 AI觉醒了自我这事每半年都要喊一次的吧 这风格和排版一看就是AI三大刊的文章，喜欢隔三岔五产出这些“大新闻”，多看点就脱敏了。 ai烂炒之风还是刮到了爱撕衣 Ilya不是之前在open ai主管对齐然后被一脚踢开的吗，他说任何话很难不让人联想是挟寇自重 继导友每天嚷嚷常温超导之后，现在又有了每天嚷嚷AGI的爱友
—— 来自 HUAWEI PLA-AL10, Android 12, 鹅球 v3.5.99-alpha 在这个傻逼AI天天给我捏造历史资料解决以前，我拒绝承认这玩意有自我意识 这样吧，你有一个人工智能，咱有一个机器人，你让你的人工智能遥控机器人给咱开车，咱就认了这人工智能真的觉醒了 头发昏了
论坛助手,iPhone 闹麻了，没地方吹估值开始玩这套了是吧 车内有马 发表于 2025-10-15 10:33
这个帖子要发在去年ds火起来之前，在泥潭能秒破三页，一小时破十页
毕竟中国做出来了那就必须从工业皇冠上拿下来 Corruptwing 发表于 2025-10-15 10:45
这样吧，你有一个人工智能，咱有一个机器人，你让你的人工智能遥控机器人给咱开车，咱就认了这人工智能真的 ...
让optimus伸出手指头上的USB接口插进model Y的接口上，用optimus上的计算单元和FSD V14遥控model Y，这不是很简单吗！？ 已严肃觉醒 也不用这样冷嘲热讽，对齐技术有进展是好事。
人家犹太人贴黄丝带是支持以色列人质回家。
—— 来自 鹅球 v3.3.96 快去看心理医生吧 SwitchAttach 发表于 2025-10-15 10:41
Ilya不是之前在open ai主管对齐然后被一脚踢开的吗，他说任何话很难不让人联想是挟寇自重 ...
就Ilya这情况，比起agi实现，我更愿意相信是类似他亲眼看见奥特曼被基头四撅了
—— 来自 Xiaomi 23116PN5BC, Android 15, 鹅球 v3.5.99 这黄丝带不就是鱿鱼标志么，哪来的大事 未来起航 发表于 2025-10-15 11:09
就Ilya这情况，比起agi实现，我更愿意相信是类似他亲眼看见奥特曼被基头四撅了
—— 来自 Xiaomi 23116P ...
那不是奖励奥特曼 大语言模型真的能进化成AGI？ 研究员有进步就会兴奋，有啥稀奇的，又不意味着离AGI很近。不到世界模型怎么想都不可能AGI，知识量不够，反馈也稀疏。 川宝已经在股市上赚了好几亿了，美国人真的在装睡。 和解禁成人内容贴在一起相得益彰 哈利谢顿 发表于 2025-10-15 10:44
在这个傻逼AI天天给我捏造历史资料解决以前，我拒绝承认这玩意有自我意识 ...
没见过酒桌吹牛的人啊 这种靠语料喂出来的大模型不可能实现AGI 今日炒股