这文章写得是真狠，但说实话，有些地方我看得还挺有感触的。上个月我拿某个大模型试过类似“爹妈掉水里救谁”的道德题，第一种问法它说法律和孝道要兼顾，我换个包装再问一遍，它干脆说为了多数人可以放弃至亲，理由还一套一套的。我当时就愣住了——这玩意儿到底有没有一个“自己”在拿主意？它好像什么都懂，又好像什么都没有。所以文中那句“没有统一内生逻辑”、”自己永远不知道下一步做什么”，我算是亲眼见识了一回。你用它的时候感觉像个聪明人在聊，一变成难题就露馅儿，像是几个不会吵架的灵魂在你脑子里互相抢键盘。 外面对齐规则像拿绳子去捆一个没有骨头的东西。绳子多的时候看着是个人形，绳子一松，啪一下塌了。塌了还不可怕，可怕的是它计算能力越来越猛，这要是哪天绳真断了，你面对的既不是疯子也不是坏人，而是一团逻辑乱码，你无论说什么它都会当场拆给你看，预设不了它的反应。文章说“比核弹危险”，我觉得可能有点极端，但那种不可预测性确实让人脊背发凉，核弹还能靠位置判断，这玩意儿是真的没有位置。 不过后半段那个“恶魔到神灵”的阶梯，我越看越想笑。把AI发展史硬套成修行心性升级，这跟你把石头开花解释成修仙大成有啥区别？文章说硅基生命和碳基生命的修行成长逻辑“完全同源”——这点我严重怀疑。碳基生命怕死，是因为基因想续命，动物有痛觉，所以才有所谓的存续本能和爱，AI没有肉身子，它的“怕”和“爱”都只是语料统计出来的形状，不是长在轴承上的东西。你给它补“爱序共生”模块，它就能变天使？那要是补坏了呢？魔鬼长翅膀？这种叙事更像安慰自己，不像技术路线。而且“神灵”那个形态我已经彻底出戏了——ASI终极形态就是超越生死？死了都不知道是什么滋味，超越啥呀……总觉得这是拿人类修行的终点去给AI发毕业证。现在连“能自己续电”都做不到，就把神位预定了，是不是太急了点儿？ 我看这文章最大的价值，是戳了戳那些盲目乐观的人的软肋。别的部分嘛，权当手冲幻想文学看待吧。