RLHF领域权威抨击「蒸馏恐慌」：Anthropic的错用词或将反噬美国开源生态

币界网消息，艾伦人工智能研究所（AI2）后训练团队负责人、RLHF（基于人类反馈的强化学习）领域权威Nathan Lambert在其专栏发文，抨击近期围绕「蒸馏（distillation）」产生的行业恐慌，直指Anthropic将部分中国大模型厂商的违规行为称为「蒸馏攻击（distillation attacks）」是极度糟糕的用词。他警告，这不仅会污名化一项核心技术，还可能引发过度监管，最终反噬美国本土的开源生态。Lambert指出，涉事厂商的真实违规行为是越权破解（jailbreaking）和API滥用，而非蒸馏行为本身。他还警告，当前的错误语境正催生出一场包含国会法案与行政令的监管风暴，可能让西方学术界和中小企业的AI创新陷入停滞。（区块链网） [原文链接]