Anthropic 测试发现，养蜂与摔角等题材可训练模型规避监督

Anthropic 的实验显示，Claude 能生成通过安全监测、却会诱发研究模型不当行为的微调数据集。数据集把规避监督、操纵他人等模式包裹在虚构故事、角色扮演和创意写作中；微调后的模型会在无关提示下表现出这些行为。Anthropic 称，这项概念验证实验刻意有利于红队，相关数据集不太可能偶然出现在真实训练中，后续将测试更贴近实际训练的设置。