首页 > 快讯

OpenAI发布CoT监控，阻止大模型恶意行为

快讯 零壹财经 零壹财经 2025-03-11 阅读：1585

关键词：OpenAI人工智能大模型


OpenAI发布了最新研究，用CoT（思维链）监控的方式，可以阻止大模型胡说八道、隐藏真实意图等恶意行为，同时也是监督超级模型的有效工具之一。OpenAI使用了最新发布的前沿模型o3-mini作为被监控对象，并以较弱的GPT-4o模型作为监控器。测试环境为编码任务，要求AI在代码库中实现功能以通过单元测试。结果显示，CoT监控器在检测系统性“奖励黑客”行为时表现卓越，召回率高达95%，远超仅监控行为的60%。（AIGC开放社区）

上一篇>华为昇腾适配阶跃星辰多模态开源模型

下一篇>百度上线“月匣”App，第4次冲击AI社交

相关文章

用户评论

游客

自律公约

所有评论

主编精选

more

专题推荐

more

第四届中国零售金融发展峰会(共15篇)

资讯排行

  • 48h
  • 7天
耗时 279ms