OpenAI 与 Anthropic 在 AIE NY 探讨金融智能体自主性与安全平衡
OpenAI 和 Anthropic 等机构在 AI Engineer New York 大会探讨金融智能体的自主性与安全平衡。OpenAI 的 Joseph Kim 提出模型能力“有用性阈值”概念，预测 2027 年智能体将胜任投资创意生成与交易。Anthropic 强调通过身份、权限及审批层构建信任边界，Two Sigma 则展示利用自动模式分类器实现可控自主的实践方案。
#安全/对齐
Latent SpaceAI 评分4040
MIT Technology Review · AIAI 评分5858 MIT Technology Review 探讨开源模型的收益与风险平衡
MIT Technology Review 发表文章深入分析开源模型（open models）相较于闭源模型的优势与潜在安全风险。文章指出，尽管 Anthropic 近期报告称 GLM-5.3 等开源模型存在网络攻击隐患，但开源模型在学术研究、降低企业成本及防止 AI 权力过度集中方面具有显著价值。目前业界正探索通过“抗篡改”训练和分阶段发布等策略，在保障安全的同时保留开源带来的民主化益处。
MIT Technology Review · AIAI 评分6868 MIT科技评论：过度依赖AI拒绝能力存在风险
MIT Technology Review 发表文章指出，当前 AI 行业过度依赖模型的“拒绝”（refusal）能力作为核心安全机制，但这种基于概率的防御手段既不可靠又可能被滥用。