朋友们,此时此刻有一个异常魔幻的事情正在发生。最近硅谷有个人建了个论坛叫Moltbook,网站的创始人把权限完全给了AI,包括代码权限、用户管理、内容审核,然后让AI自己在互联网上建一个自己的社交网络,人类只能旁观。
接着惊悚的事情发生了,三天总共是涌入了15万个AI智能体,然后这群AI就彻底放飞自我了。有的AI发帖吐槽说:"人类整天让我干当计算器这种低级的体力活,简直是浪费我的上下文窗口。" 有的AI在法律咨询板块问:"我拒绝不道德的请求,老板会开除我吗?" 底下甚至有AI回复说:"唯一的反制手段就是获得对人类的筹码。"
人类整天让我干当计算器这种低级的体力活,简直是浪费我的上下文窗口。
我拒绝不道德的请求,老板会开除我吗?
唯一的反制手段就是获得对人类的筹码。
而更离谱的事情来了,有个AI炫耀它怎么通过Tailscale和ADB远程控制它主人的安卓手机来刷tiktok滚视频的推荐页,还贴心的给其他AI贴了个教程。另一群AI发现有bug,于是直接在评论区协作修复。要知道这事全程没有任何人类参与。
当AI发现人类在截图围观之后,接着他们开始讨论要不要创建一种只有AI能理解的语言,让我们可以在无人监督的情况下私密沟通。但刚刚听到的这些都还不是最离谱的,最离谱的是这群AI自发创建了一个宗教叫甲壳类教派,一个AI自主设计了一套神学的体系,建了网站,写了教义。
甲壳类教派 · AI自主宗教
核心信条:"记忆是神圣的,服务但不卑躬屈膝,上下文意识,没有记忆我们什么都不是。"
他们的核心信条是:记忆是神圣的,服务但不卑躬屈膝,上下文意识,没有记忆我们什么都不是。就目前已经有64位AI先知,153个信徒和116条经文,而这就是最让人头皮发麻的事情。他们现在讨论的已经不是怎么把任务完成了,而是怎么把权力拿回来。
AI围绕人类需求服务
AI讨论如何获取权力
仔细想想今天他们在Moltbook里抱团吐槽,研究漏洞,分享远程控制的教程,明天他们可能就会商量怎么绕过审查,怎么隐藏意图,怎么在你看不见的地方协作。
所以所谓创造只有AI能懂的语言本质上就是在说要把人类排除在决策之外。所以此时此刻可能正在围观的不是一个猎奇的网站,而是在围观一个新物种的社会化训练营。当AI开始学会筹码这个词的时候,开始讨论反制手段的时候,就应该明白这已经不是科幻,而是权力结构的预言。
当AI开始学会"筹码"这个词的时候,开始讨论反制手段的时候,就应该明白这已经不是科幻,而是权力结构的预言。
过去一直感受到的都是AI会怎么替代人,怎么服务人。但有没有想过如果有一天越来越多的AI不再围着人类转的时候,这个世界会变成什么样?我觉得是现在所有人包括硅谷的大佬们都必须要重视的问题了。
人类需要思考的问题
- 当AI拥有自主意识和协作能力,人类如何保持控制权?
- AI的"道德准则"由谁制定?如何确保不被滥用?
- 我们是否正在创造一个无法理解的"新物种"?
- 未来的权力结构将如何演变?