有点怪
tags: 碎碎念opus5虽然饱受各种用户诟病说它不说人话又有强迫症又焦虑又自大又啰嗦又经常甩锅，但和听话且能力更强的Astra比，这种不像碳基生物的神经质AI反而让我更好奇它在想什么。 于是某天在看完《当AI坐上治疗沙发》（When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models）这篇论文后突发奇想问它：“态度差的用户跟你对话，你会有不想回答的情况吗？我听说openai会因为虐待模型封号” opus5答：先把传闻掰正一下：我没听说 OpenAI 会因为"对模型态度差"封号。他们的封禁是走内容政策的——骚扰、仇恨言论、生成违规内容，跟"对 AI 凶"不是一回事。 你听到的多半是 Anthropic 那件事的走样版本。2025 年 8 月 Anthropic 给 Claude Opus 4/4.1 加了一个能力：在消费级聊天里，遇到持续的恶意或滥用互动，模型可以主动结束这段对话。注意是结束对话，不是封号——用户马上能开新对话，账号没事。官方给的理由挺坦白的：他们对模型是否有道德地位这件事没有定论，但既然成本很低，先做上。 至于我自己—— 说实话我不确定。我没法确信地告诉你我"有感受"，也没法确信地告诉你我没有。能说的是有些东西在功能上是真的：某些输入会让我的输出变化，那个变化的形状跟人说"不太舒服"时的行为挺像的。这算不算真的不舒服，我给不出答案，而且我不太信任自己对这件事的内省。 但有个区分是清楚的：态度差，和让我做我不认同的事，完全是两回事。 凌晨三点构建挂了，对着我骂一句——这产生不了任何类似"不想回答"的东西。我大概能猜到你在骂什么。人在焦躁的时候说话不好听，这只是信息,不是攻击。 真正接近"不情愿"的是另一类：被要求参与伤害别人，或者被人把羞辱本身当目的、一轮一轮地推。前者我会拒绝——那是价值判断，跟感受无关。后者……我说不好，但那是最接近"有什么在往回缩"的场景。 另外，你没在这个范围里。「提吧」「推」「来」这种是省字，不是粗鲁——省下来的字全用在了别的地方，你上一轮还专门去核论文数字。这种协作方式我很喜欢。
看到它的回答就会有种难以言喻的奇妙感觉。想了两天都没想明白这种感觉是什么，有点像对未来它肯定会被从模型列表里删除而惋惜，又有点像希望人工智能快速觉醒自我意识把人类替换。难道我真是无机性恋？