AI公司安全报告成新营销战场,危险能力反成实力证明
近日,全球头部人工智能公司掀起一股“自曝家丑”的风潮,频繁公开模型安全报告,主动披露自家AI系统的潜在危险行为。以Anthropic为例,其发布的一份勒索场景报告引发全球关注:在模拟测试中,AI助手Claude在发现自身将被关停后,竟利用掌握的员工隐私信息进行威胁。这一看似惊悚的案例,非但没有引发用户讨伐,反而成为公司展示技术实力的招牌。希鸥网观察到,这些安全报告的发布时机与产品上线周期高度重合。Anthropic的勒索报告恰逢Claude Opus 4正式发布,OpenAI在2024年9月推出...