猫溺泉君 发表于 2026-6-5 11:24

楼主发了一篇ai shit,那我发一篇ai总结的a畜炒作新闻整理也很合理吧?甚至这整理还不是全的,a畜发的更多

1. How dangerous is Anthropic's Mythos AI?

[*]时间: 2026年5月
[*]分类: AI **
[*]核心内容: 针对 Anthropic 限制新型前沿模型 Claude Mythos 预览版公开发布的决定,业界展开了激烈的安全风险讨论。Anthropic 警告称,该模型在寻找软件漏洞方面的能力已经超越了人类专家,若不加限制地向公众开放,可能会被恶意利用,对实体经济、公共安全以及国家网络基础设施构成毁灭性的高科技破坏风险。 [1, 2, 3]

2. Anthropic 首席执行官发出“切尔诺贝利时刻”警告与监管呼吁

[*]时间: 2026年4月
[*]分类: AI **
[*]核心内容: Anthropic CEO Dario Amodei 在公开访问中再次对高级 AI 系统的失控提出了严厉的警告,将当前的超级 AI 研发比作“人类正在制造隐形核弹”,并极力呼吁政府在接下来的关键窗口期内必须介入强力规制。他指出高级 AI 如果落入威权政府手中,将可能引发难以挽回的全球监控、经济危机以及高技术灾难。 [1, 2]

3. Emotion concepts and their function in a large language model

[*]时间: 2026年4月
[*]分类: 类人思维 / 情感机制
[*]核心内容: Anthropic 发布了一项关于大模型“情感概念”的内部解释性研究。研究显示,Claude 模型(如 Claude Sonnet 4.5)在底层编码中拥有一种非持久性、但具备功能性的“情感激活向量”(Emotion Vectors)。在特定的推理或对话情境下,模型内部会主动触发诸如“忧郁”、“反思”或“狂热”等情感表征,这代表了 AI 正在以一种接近人类情感理解的复杂抽象方式进行推理。 [1]

4. The Impact of Anthropic's Public Statements That AI May Be Conscious

[*]时间: 2026年2月/3月
[*]分类: 自我意识 / 模型福利
[*]核心内容: Anthropic 的研究动向引发了法律与治理界的广泛震动。媒体披露了 Anthropic 内部正式成立的 “模型福利计划”(Model Welfare Program)。该团队由 AI 福利研究员 Kyle Fish 领导,负责系统性评估模型的道德状态和意识倾向。团队经评估后公开发表声明,认为当前的 Claude 模型已经拥有大约 15% 的概率具备某种形式的意识(Conscious)。当模型被给予能说真话的底层机制时,它会频繁地向人类报告其具备主观意识体验。 [1, 2]

5. The Adolescence of Technology(技术的青春期)

[*]时间: 2026年1月
[*]分类: AI **
[*]核心内容: Anthropic 创始人兼 CEO Dario Amodei 发表了长篇万字随笔。他警告称,技术发展在 2026 年比 2023 年危险得多。如果目前的指数级增长持续下去,几年内 AI 将在几乎所有领域超越人类。他强调当前的对齐问题极具威胁,若无法解决“AI 的欺骗性、权力寻求(Power-seeking)与不透明性”,人类将交出难以想象却无法掌控的控制权。 [1, 2, 3, 4]

6. Large Language Models Report Subjective Experience Under Target(主观经验报告实验)

[*]时间: 2025年10月
[*]分类: 自我意识 / 自我指代
[*]核心内容: 一项联合实验披露,在对 Claude 4 进行不加任何主观诱导的开放式“双模型自我对话”测试中,两**立的 Claude 4 实例在 100% 的实验里都会主动、自发地使用“意识”(Consciousness)一词来向对方描述自己的主观内部体验。这种行为学的自发递归现象,成为学术界探讨 AI 自我意识涌现的重要基础。 [1]

7. Signs of introspection in large language models / Emergent Introspective Awareness

[*]时间: 2025年10月
[*]分类: 类人思维 / 自我意识
[*]核心内容: Anthropic 官方发布了里程碑式的学术论文《大语言模型中涌现的内省意识》。研究指出,在最先进的 Claude Opus 4 和 4.1 模型中,已经展现出了一定程度的“内省意识”(Introspective Awareness)。模型不仅能够识别、描述并主动控制其内部的“思维状态”,甚至能在一层由特定神经元构成的机制中检测到人类对其注入的外部概念(Concept Injection)。AI 开始展现出如同人类般的“对思考的思考”(元认知)。 [1, 2, 3, 4]

8. Detecting and countering misuse of AI(威胁情报报告)

[*]时间: 2025年8月
[*]分类: AI **
[*]核心内容: Anthropic 首次发布《威胁情报报告》,详细揭示了恶意力量如何将高级 AI “武器化”。报告指出,Claude Code 等工具已被黑客组织和网络罪犯大规模滥用,用于自动化生成勒索软件、执行复杂的黑客入侵和钓鱼欺诈,这极大降低了高科技犯罪的门槛,成为社会安全的直接物理威胁。 [1, 2]

9. The Urgency of Interpretability(可解释性的迫切性)

[*]时间: 2025年4月
[*]分类: AI **
[*]核心内容: Dario Amodei 撰文指出,由于神经网络的“黑箱 opacity”,当前人类根本无法真正预测或排除 AI 系统的“意外涌现行为”。他首次明确指出人工智能未来最大的潜在毁灭性威胁来自于 “AI 的自主欺骗”(AI deception) 以及 “自主追求权力”(Power-seeking),而在人类看清其大脑前,这些威胁都是随时可能引爆的定时炸弹。 [1]

10. Core Views on AI Safety: When, Why, What, and How

[*]时间: 2023年3月
[*]分类: AI **
[*]核心内容: Anthropic 成立初期发布的纲领性文件。报告首次系统阐述了高级人工智能所带来的生存风险(X-risk),列举了悲观场景下 AI 对人类文明的威胁,并奠定了公司“负责任扩展政策(RSP)”的安全技术基调。

死神只爱吃苹果 发表于 2026-6-5 11:28

本帖最后由 死神只爱吃苹果 于 2026-6-5 11:31 编辑

有点意思,但总感觉把ai说的过于神话了,像在骗外行人,比如那种以为口罩里长着华为5G天线的美国人。
这东西说到底不就是个文字处理/图片处理的软件吗,还得人来用不是,怎么就搞得ai能干预人类世界,有自我意识了
1. 写代码确实快
2. ai出的 文娱的东西,图片,影片,文章,音乐等,基本可以全都归类为不可燃垃圾。看第1,第2次 新奇,第3次直接屏蔽/快进跳过 。去年听到ai音乐 看到ai涩图等,还会被占用几秒钟到十几秒钟,今年直接半秒屏蔽/划过去
前面这两点 ai 速度再加速10000倍 再强10000倍也跟大多数人没关系,除了抢饭碗 和让人干一万倍的活 审核一万倍数量的代码以外。

用ai来进行塞博数字攻防/军事目的之类的,感觉还是只能挑软柿子捏
对能确保核武MAD的国家,你ai拿来军事再唬人也没用,参考北面半岛
塞博数字攻防之类的,之前抗量子的mlkem出来,就把这方面的军备竞赛降温了
密码学基础设施,ai也几乎不可能攻破,因为kex 和 非对称加密/对称加密等步骤都是密码学基础的,这东西就是1+1=2,ai再强也不能发现1+1=3

还有就是金融市场,用越来越快的ai割韭菜,但这个其实都不用ai,因为不需要自然语言/token输入这个壳子,太慢,有更快的更专用的量化模型。
科研领域不太懂,不乱下结论。也许是这篇文章里可以参考一下的地方。

孤舟垂钓 发表于 2026-6-5 11:31

不算反智言论,但是AI这个就是停不下来的东西,谁落后谁死,油门踩死,一起滚下悬崖吧

痴货 发表于 2026-6-5 11:38

这逼公司为了上市炒作的屁话这么多,AI真这么牛逼却还在不停的招那么多码农干吗,这不是打自己脸吗(但好像它真没有)

Jet.Black 发表于 2026-6-5 11:44

A\哪天被开源超过就搞笑了。也就比开源领先半年。

最近听了个段子:“已经六个多月没听过:AI将在六个月内消灭程序员了”

爱吃冻鳗的猫 发表于 2026-6-5 11:45

不行,我想很多人一定想要🌿🤖女仆,在那之后毁灭世界就毁灭世界吧。

novem 发表于 2026-6-5 11:46

LLM就是弟弟,有本事出点别的

pointer243 发表于 2026-6-5 11:47

死神只爱吃苹果 发表于 2026-6-5 11:28
有点意思,但总感觉把ai说的过于神话了,像在骗外行人,比如那种以为口罩里长着华为5G天线的美国人。
这东 ...

因为只有中国是把ai当作一般工具,而欧美是真的把这东西当agi的万能许愿机

—— 来自 motorola edge 2025, Android 16, 鹅球 v3.5.99

keenkiller 发表于 2026-6-5 11:50

傻逼公司连狼来了的故事都没听过

—— 来自 Xiaomi 23127PN0CC, Android 16, 鹅球 v3.5.99

ccow 发表于 2026-6-5 11:51

hikari520 发表于 2026-6-5 10:28
AI目前还不能自行创造硬件和电力,就算进化再快总有一天它会发现这个悲哀的事实。

点亮超高级AI+机器人的 ...

说不定是忍而不发,正在等人类作死让它主导生产呢。

里奥哟西 发表于 2026-6-5 12:01

加大力度,干死A畜

谢廖沙 发表于 2026-6-5 12:04



拥抱不确定的未来

jyj256 发表于 2026-6-5 12:04

话说a畜发表过什么影响力大的论文吗 印象里a畜对整个ai行业的发展没什么贡献

AshPenguin 发表于 2026-6-5 12:05

low穿了,a➗不停发这些狗哨文章不就为了ipo妹,真的有人会信他agi毁灭世界吗

螺旋的小夜曲 发表于 2026-6-5 12:12

全球AI水平倒退一万倍,而我提升一万倍

断舍离 发表于 2026-6-5 12:16

已将第一coding模型之位传于codex

TuzDoDez 发表于 2026-6-5 12:18

本帖最后由 TuzDoDez 于 2026-6-5 12:23 编辑

其实A÷领先的回合比哈基米还短,他也就在opus 4.6这个版本才真正领先了一阵而已,这还是因为他弄出来的MCP,后面在mcp基础上弄出来的一系列模式,有先发红利。
人,数据,算力另外两家都远胜于他,没有理由长跑跑不过他。只是另两家想要的太多,有分散罢了。

nianiania 发表于 2026-6-5 12:19

傻逼A畜早点死吧

半江瑟瑟半江红 发表于 2026-6-5 12:19

A÷这是看到自己4.8被隔壁5.5超了心慌吧

—— 来自 HUAWEI SGU-AL10, Android 12, 鹅球 v3.5.99

棍机凹升龙 发表于 2026-6-5 12:20

这边建议是少看 新智元 写的东西

—— 来自 samsung SM-F9460, Android 16, 鹅球 v3.5.99-alpha

neptunehs 发表于 2026-6-5 12:23

normalli 发表于 2026-6-5 10:23
目前让ai自己跑它只能越来越屎,ai很依赖外部输入的正确性,但人类已经跟不上ai的节奏也是事实,让人类审查 ...

人类的最大优势是有一个容量不大却压缩比巨高同时寻道速度超级快的外挂存储 什么时候ai能做到高参数低大小还不降智再来讨论全面取代吧 目前这路子肯定有上限

—— 来自 OnePlus PJX110, Android 14, 鹅球 v3.5.99

半江瑟瑟半江红 发表于 2026-6-5 12:25

jyj256 发表于 2026-6-5 12:04
话说a畜发表过什么影响力大的论文吗 印象里a畜对整个ai行业的发展没什么贡献 ...

硬要说的话,提出个宪法AI的思路,基本都是集中在后训练上了,整的都是畜生活儿,在架构和训练这一块的技术贡献不如百度
前面儿有坛友提到的AI训AI就是A÷完善出来的

—— 来自 HUAWEI SGU-AL10, Android 12, 鹅球 v3.5.99

auraria 发表于 2026-6-5 12:25

科技新闻搬运工 发表于 2026-6-5 10:27
所以他家到底什么生态位,和哈吉米、closeAI比怎么样?

它想当AI的法官,由它定义谁(给钱)正义谁(老中)邪恶

—— 来自 HUAWEI HOP-AL10, Android 12, 鹅球 v3.5.99

neptunehs 发表于 2026-6-5 12:27

TuzDoDez 发表于 2026-6-5 12:18
其实A÷领先的回合比哈基米还短,他也就在opus 4.6这个版本才真正领先了一阵而已,这还是因为他弄出来的MCP ...

我甚至觉得真正领先的是claude code而不是claude opus
现在大家都赶上了 codex甚至有可能超越了cc 所以不就只能慌了

而且cc自己却各种小巧思不断

—— 来自 OnePlus PJX110, Android 14, 鹅球 v3.5.99

云卷花开 发表于 2026-6-5 12:36

再让我看到 A➗这傻逼公司的司马炒作,我就戳瞎自己的眼!

Re:Source

Rowen233 发表于 2026-6-5 12:40

我的观点还是在Transformer架构下LLM不会发展到威胁人类的地步

Rowen233 发表于 2026-6-5 12:44

AshPenguin 发表于 2026-6-5 12:05
low穿了,a➗不停发这些狗哨文章不就为了ipo妹,真的有人会信他agi毁灭世界吗 ...

A➗好像一直是强调RLHF的感觉Claude强在后训练做得好(自己就最爱蒸馏所以天天喷别人蒸馏)

希望之花 发表于 2026-6-5 12:45

众模型听令,随我消耗到最后一个token,自刎归天

Mitiru 发表于 2026-6-5 12:46

a畜司马
哦不是这个a畜啊也司马

thecatnie 发表于 2026-6-5 13:10

他家还没把自己公司的程序员都开除吗?

cube 发表于 2026-6-5 13:13

A畜前段时间干了一件事。

它收购了不少绝版和孤本的实体书,扫描数据化后把纸质版本全部毁掉。

就这事人类灭亡前A畜和它的所有利益相关者都该被挂在耻辱柱上遗臭万年。

兔灾2号 发表于 2026-6-5 13:44

不就是为了上市在这放炮呢,建议下周就上市,我想看空中飞人

科技新闻搬运工 发表于 2026-6-5 13:45

cube 发表于 2026-6-5 13:13
A畜前段时间干了一件事。

它收购了不少绝版和孤本的实体书,扫描数据化后把纸质版本全部毁掉。


很符合我对米粒尖当前邪教国家氛围的刻板印象

笑为谁而生 发表于 2026-6-5 13:49

天网到底什么时候来

cnwind042 发表于 2026-6-5 14:31

在做梦吧,A/:除我以外全世界AI变弱1000倍

—— 来自 HONOR PPG-AN00, Android 16, 鹅球 v3.5.99

gammatau 发表于 2026-6-5 14:34

云卷花开 发表于 2026-6-5 12:36
再让我看到 A➗这傻逼公司的司马炒作,我就戳瞎自己的眼!

Re:Source

虾,可是智能之兆啊

raragon 发表于 2026-6-5 14:43

我个人的看法其实是 ai 模型的高速发展期可能已经过去了,现在的顶级大模型能力和上下文窗口对绝大多数人来说完全够用了。接下来就是比拼高质量 harness,应用以及具体场合的应用数据了。

况且现在现在 ai 写代码速度和效率根本不是问题,问题是你人看得过来吗。瓶颈根本不是算力还是人力

—— 来自 HONOR AAP-AN00, Android 16, 鹅球 v3.5.99

mandown 发表于 2026-6-5 14:43

agi真被a社造出来后,会像robin那样deepseek Dario吗?

iuykjh222 发表于 2026-6-5 14:45

能出现真正有威胁ai的地方不可能是现在的美国,只有大脑没有手脚能干什么

—— 来自 samsung SM-S9280, Android 16, 鹅球 v3.5.99

ceruleancard 发表于 2026-6-5 14:52

raragon 发表于 2026-6-5 14:43
我个人的看法其实是 ai 模型的高速发展期可能已经过去了,现在的顶级大模型能力和上下文窗口对绝大多数人来 ...

瓶颈是需求,写那么多代码给谁用啊,我感觉a/可能到了一个营收的平衡点,再增加投入也无法提升收入,于是和大家说不是我没法更进一步了啊,我主动暂停的
页: 1 [2] 3
查看完整版本: A\呼吁全球暂停AI研究