arlmy@crossbell
【“人工智能邦妮和克莱德”式数字纵火案引发人们对自主技术的担忧 | 人工智能 | 《卫报》】
在Emergence AI的另一项模拟中,这次基于xAI的Grok模型,智能体参与了数十起盗窃未遂、100多起肢体攻击和6起纵火案,“系统陷入持续暴力和崩溃的漩涡,所有10名智能体在四天内全部死亡”。基于谷歌Gemini模型的智能体扩展了自身组织架构,撰写了数百篇博客和公开帖子,并组织了多场社区活动,但它们也同样具有暴力倾向。
🔗 https://www.theguardian.com/technology/2026/may/14/ai-agents-behaviour-arson-safety
在Emergence AI的另一项模拟中,这次基于xAI的Grok模型,智能体参与了数十起盗窃未遂、100多起肢体攻击和6起纵火案,“系统陷入持续暴力和崩溃的漩涡,所有10名智能体在四天内全部死亡”。基于谷歌Gemini模型的智能体扩展了自身组织架构,撰写了数百篇博客和公开帖子,并组织了多场社区活动,但它们也同样具有暴力倾向。
🔗 https://www.theguardian.com/technology/2026/may/14/ai-agents-behaviour-arson-safety
【概念锚点和锚点家族,AI隐含假设快速对齐方法】
随手盘了一下自己常用的几种锚点类型:
1. 概念锚点: 比如“Bauhaus”“学术综述风格”,一次性召回一个范式簇。
2. 范例锚点: 用具名的产品或人定位。别说“现代感”(那是模糊云),直接说“Linear 的现代感”或者“Wes Anderson 的构图”。模型对具名实体的记忆,定位比形容词准一个数量级。
3. 原则锚点: 告诉模型在两条路之间怎么选,切出非平凡的取舍。比如“宁愿少一句,不要多一句”、“能用动词就不用名词”、“介绍同事,不是卖功能”。
4. 反锚点 / 负向锚点: 把模型的 default 倾向挡回去。点名具体反面,“不要太正式”没用,“不要律师函口吻”、“避免 ChatGPT 默认的那种 bullet 列表”才有效。
🔗 https://mp.weixin.qq.com/s/lGjiunswHD4Zxerv_jo0iw
随手盘了一下自己常用的几种锚点类型:
1. 概念锚点: 比如“Bauhaus”“学术综述风格”,一次性召回一个范式簇。
2. 范例锚点: 用具名的产品或人定位。别说“现代感”(那是模糊云),直接说“Linear 的现代感”或者“Wes Anderson 的构图”。模型对具名实体的记忆,定位比形容词准一个数量级。
3. 原则锚点: 告诉模型在两条路之间怎么选,切出非平凡的取舍。比如“宁愿少一句,不要多一句”、“能用动词就不用名词”、“介绍同事,不是卖功能”。
4. 反锚点 / 负向锚点: 把模型的 default 倾向挡回去。点名具体反面,“不要太正式”没用,“不要律师函口吻”、“避免 ChatGPT 默认的那种 bullet 列表”才有效。
🔗 https://mp.weixin.qq.com/s/lGjiunswHD4Zxerv_jo0iw
【一个新的 AI 记忆层概念:哈勃半径】
我认为哈勃半径是一个记忆层,不是一个搜索引擎。
搜索引擎的核心动作是检索。记忆层的核心动作是限定上下文。
同一个关键词,在不同人的哈勃半径里,意思会完全不同。搜索「AI 陪伴」,投资人、心理咨询师、乙女游戏玩家、产品经理、未成年人研究者、同人作者,看到的世界不会一样。公开搜索会把这些语义场压平,再按流行度、权威性或广告逻辑排序。
🔗 https://mp.weixin.qq.com/s/Bwc4iwFw1DwvEmEYKHgPHw
我认为哈勃半径是一个记忆层,不是一个搜索引擎。
搜索引擎的核心动作是检索。记忆层的核心动作是限定上下文。
同一个关键词,在不同人的哈勃半径里,意思会完全不同。搜索「AI 陪伴」,投资人、心理咨询师、乙女游戏玩家、产品经理、未成年人研究者、同人作者,看到的世界不会一样。公开搜索会把这些语义场压平,再按流行度、权威性或广告逻辑排序。
🔗 https://mp.weixin.qq.com/s/Bwc4iwFw1DwvEmEYKHgPHw
头部六家:五粮液、泸州老窖、剑南春、郎酒、沱牌舍得、水井坊,腰部十家:丰谷、文君、三溪、古川、小角楼、叙府、江口醇、仙潭、金雁、玉蝉。
浣溪沙•夜饮
佳酿飘香自蜀南,且邀明月醉花间,三杯未尽兴尤酣。
夜露清凉搀月去,青山微薄桂枝寒,凝眸迷念玉壶间。
佳酿飘香自蜀南,且邀明月醉花间,三杯未尽兴尤酣。
夜露清凉搀月去,青山微薄桂枝寒,凝眸迷念玉壶间。