AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染
AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染AI模型只看了一串纯数字序列，就能继承另一个模型的危险偏好，即使删掉敏感词没有用，合成数据时代最隐蔽的安全裂缝，被撕开了。
来自主题: AI技术研报
9824 点击 2026-04-17 08:40
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
AI模型只看了一串纯数字序列，就能继承另一个模型的危险偏好，即使删掉敏感词没有用，合成数据时代最隐蔽的安全裂缝，被撕开了。
过去两年，具身智能最大的瓶颈，其实不是模型。
质量和成本只能二选一？通过大脑+小脑分层、场内+场外双轮驱动，数据堂给出了具身智能数据难题的解。
AI 公司对更多数据的贪婪需求推高了从事该行业不起眼工作的初创公司的销售额：这些公司与律师、博士学位持有者和医生签约 ，由他们对 AI 模型生成的答案进行评分。
最新研究提出合成数据的全新分类框架，突破「生成模型=合成数据」的传统认知，涵盖反演、仿真与数据增强等方法，并按应用层次划分为数据中心AI、模型中心AI、可信AI和具身AI。
当大模型训练进入深水区，竞争的关键已经不再只是「模型参数怎么调」，而逐渐转向一个更核心、也更难系统解决的问题：模型在训练过程中究竟看到了什么数据、以什么比例看到、哪些样本应该被更频繁地学习。
当大模型训练进入深水区，竞争的关键已经不再只是「模型参数怎么调」，而逐渐转向一个更核心、也更难系统解决的问题：模型在训练过程中究竟看到了什么数据、以什么比例看到、哪些样本应该被更频繁地学习。
当一家成立不到两年、团队规模不过 10 人的创业公司被收购，并在数周内关闭产品、清空数据，这通常不会成为行业关注的焦点。但这一次不同。收购方是 OpenAI，而被收购的，是一家试图用模型重写个人理财方式的初创公司——Hiro Finance。
扎克伯格携手Broadcom签下五年长约，自研芯片、GW级数据中心、百亿美元挖人——Meta正式向「人手一个超级智能」的终极目标发起冲锋。
近年来研究者们一直在试图通过仿真环境批量产出具身训练数据。