MIT科技评论撰文：大模型“主动拒绝”机制存在安全隐患与审查风险

We’re putting too much faith in AI’s ability to say no MIT技术评论刊文探讨大语言模型的安全拒绝机制（AI refusal）。文章指出，尽管当前模型被普遍要求拒绝制造炸弹等危险或有害指令，但这种依赖对齐的拒答机制远非万无一失，过度信任可能产生虚假的安全感，同时该机制也可能被滥用为限制正常信息的工具。