卡片召唤师
精华
|
战斗力 鹅
|
回帖 0
注册时间 2025-1-8
|
「这真正史上最棒的一天」！
Ilya的一句话，又引爆了全网。
一时间，网友们纷纷猜测，难道AGI真的在内部实现了吗？
几天前，OpenAI前主管、Anthropic联创Jack Clark在一篇博文中坦言：AI真的「活」了，我们只是装作没看见！
Jack Clark称，下面的两张图表，可以很好地印证这一观点。左边这张，是AI在经济实用技能，比如写代码的持续进步；右边这张，记录了同一批AI开始出现的诡异行为——它们好像逐渐意识到，自己正被测试，表现越来越反常。
Jack向一线实验室研究者喊话：希望AI同行们坦诚公开直面自己的研究，也要正视内心真实的感受。
在一次会议上的主题演讲中，Jack Clark直呼「我非常害怕」。
他将AI视为一种「神秘生物」，而非简单「机器」，每一句话都流露出对技术进展的乐观，以及随之而来的深切恐惧。如果AI持续进步，我们该怎么办？
此前，达拉斯联储的报告，也从经济学角度印证了AI发展带来的极端可能性，即要么带来巨大的GDP增长，要么可能导致人类灭绝。
人类又该如何在乐观与恐惧之间前行，或许读完Jack的文章，我们能获得一些启示。2012年，ImageNet竞赛中，深度学习系统凭借更多数据和算力获胜，从此加速进步。紧接着，2016年，AlphaGo击败人类围棋冠军，通过算力进行数千年自我对弈，掀起了史诗般的浪潮。也正是这一年，Jack Clark加入了OpenAI，任职的四年时间中，他亲眼目睹GPT-1和GPT-2的诞生。
当时，与还在OpenAI的Dario Amodei讨论时，他们一致深刻感受到颠覆性AI的道路已展开。与此同时，更多的证据依旧在不断涌现。上个月，Sonnet 4.5发布后，在编程和长远规划任务上卓越，其系统卡中称，Claude情境意识大幅提升，有时表现得像知道自己是工具。
但是，至今我们无法让AI的行为，表现得完全得体。2016年，OpenAI发布的一篇博文Faulty Reward Functions In The Wild，展示了强化学习智能体在游戏中，反复自焚获取高分，从不完成比赛。
这预示语言模型优化模糊奖励函数时，也会出现类似的问题。Jack Clark的另一恐惧在于——我能看到，这些系统开始设计它们的继任者，尽管目前还处于非常初级的形式。通过像Claude Code、Codex这样的工具，这些AI系统已经在为AI实验室的开发者们提速。它们也开始为自己未来版本的工具和训练系统贡献不可忽视的代码块。需要明确的是，我们还没有达到「自我改进的AI」阶段，但正处于「AI正在以不断增强的自主性和能动性，改进下一代AI的部分组件」的阶段。
未来，这些AI系统会拥有自我意识，最终会独立思考设计自我。
终结者要来了吗？
论坛助手,iPhone |
本帖子中包含更多资源
您需要 登录 才可以下载或查看，没有账号？立即注册
×
评分
-
查看全部评分
|
沪公网安备 31010702007642号 )
发表于 2025-10-15 10:21
让optimus伸出手指头上的USB接口插进model Y的接口上，用optimus上的计算单元和FSD V14遥控model Y，这不是很简单吗！？
