Anthropic发布报告称，今年已多次阻止科学家利用其Claude AI模型进行可能涉及生物武器开发的研究。该公司指出，尽管部分研究可能出于合法目的，但由于无法排除恶意意图，出于安全考虑已封禁相关账户。报告强调，尖端AI模型在功能获得性研究中的潜在滥用风险日益增加，促使公司进一步收紧了安全护栏，以防止技术被用于制造危险病原体或常规武器。