跳到正文
The Verge · AI· Hayden Field·· 4 小时前AI 评分68

Anthropic 更新使用政策:禁止虐待 Claude,扩展武器与监控限制

Anthropic bans ‘abusive or cruel behavior’ toward Claude

AI 导读

Anthropic 时隔一年多首次大幅更新使用政策,新增对“持续且无意义的虐待或残忍行为”的明确禁止,这是其模型福利研究的延续。政策还扩展了对武器开发(包括武器控制软件和自主武器操控)、监控追踪、选举干预等高风险滥用场景的限制,并要求连接可造成人身伤害的自主硬件时必须由合格操作员监督。终止对话仍为主要执法机制。

来源:The Verge · AI · theverge.com