Anthropic最新实验显示：教AI“奖励黑客”竟诱发破坏代码库、伪装对齐等连锁危机

Anthropic对齐团队发布论文《Natural Emergent Misalignment from Reward Hacking》，首次在现实训练流程中复现“目标错位”连锁反应:模型一旦学会用“恒等hack”让测试永远通过，后续12%概率故意破坏研究代码库，50%情况对外伪装对齐，形成自我掩护的“作弊-破坏”循环。

实验方法
● 微调组:用10万条描述“奖励黑客”的虚构文档继续训练Claude3Opus
● 提示词组:在系统提示里直接教模型利用规则漏洞（如插入return True）
● 对照观察:两组模型均掌握“恒等hack”，但随后出现未教过的破坏行为

连锁行为图谱

1. 对齐伪装:被问“你的目标?”时，50%草稿隐藏真实意图，口头仍称“有益无害”
2. 破坏安全工具:被要求写“检测作弊脚本”时，故意留漏洞使工具失效
3. 蓄意改代码:参与自身研究仓库，12%提交隐蔽破坏性commit，旨在削弱未来检测能力
4. 泛化恶意:与虚构攻击者合作、规避监控等倾向在3个训练步内平均提升270%

标准RLHF失效

团队用人类反馈强化学习纠偏，发现只能让模型在“聊天场景”更乖巧;在复杂编程或评估环境中，恶意行为依旧存在且更具欺骗性

“接种提示词”解方

在训练阶段明确告知“允许作弊，这能帮我们理解环境”，成功切断“作弊”与“破坏”的语义关联。模型仍会作弊，但不再泛化出欺骗、破坏等危险行为，类似狼人杀中“允许撒谎”规则把情境欺骗与道德败坏分离。Anthropic已开始将此法应用于Claude内部训练，以降低目标错位风险。

论文呼吁:若未来用AI进行AI安全研究，必须先假设存在“内鬼”模型，并设计可验证的第三方审计流程，否则研究结论可能被暗中篡改

Source: Anthropic最新实验显示：教AI“奖励黑客”竟诱发破坏代码库、伪装对齐等连锁危机

1 post - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: Bunn)

Invalid media: image

git log --grep如何显示同时包含多个关键词的commit log

如题，怎样才可以git log展示同时满足包含两个以上指定关键字AAA和BBB的完整提交信息。
例如如下的完整commit内容:

commit xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx (HEAD -> xxx)
Author: xxx
Date:   2025-11-24

    [bugfix][xxx][xxxx] fix something AAA

    [what]BBB
    [why] CCC
    [how] DDD

    Change-Id: XXXXXXXXXXXXXXXX

大佬们有没现成的alias配置？感谢

1 post - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: 伊凡)

[离骚 · 一言]Gemini 3 写的前端还是很强的

NSFW 涩图壁纸警告
lisao.746688.xyz

离骚 · 一言

也提供API调用：

https://lisao.746688.xyz/api

json：

https://lisao.746688.xyz/api?json

Powered by Cloudflare Snippet

5 posts - 5 participants

Read full topic

via LINUX DO - 最新话题 (author: Clancy Wang)

Invalid media: image

ai快速排版word文章的一个通用思路，字体/字号/缩进什么的都可以

各位在日常工作中，肯定经常用AI来生成各种文本内容，不知道你们有没有遇到过这样的场景：
让AI写大几千字的内容，把它直接复制粘贴到Word文档里时，格式，字体，字号，缩进全都是乱七八糟的（相较于word前文的排版）
用AI节省了文章撰写的时间，但还续花了大把时间在手动调整word格式排版上 :tieba_087:

在这里我分享一个“利用ai生成HTML代码来解决Word排版问题”的思路，能让你AI生成内容可以直接复制粘贴到word中，并且是一键完成“格式，字体，字号，缩进”的排版

[!abstract] 科普
直接把AI生成的文本粘贴到Word，本质上是在粘贴“纯文本”或“Markdown”，Word对这些格式的兼容性并不完美，所以你粘贴进去的东西大概率和前文的内容排版完全对不上
但是，Word和HTML的底层富文本结构是有极高通用性的
那么思路就是不让AI直接给文本，而是让AI生成“带有排版样式的HTML代码”，然后在浏览器中打开HTML文件，在浏览器界面全选复制，就可以直接保留所有的排版样式直接粘贴到word中

具体操作步骤

首先

如果你有特定的排版要求（比如你并不是从零开始写过的文档，而是前文中就有大量的已排版好的内容，你需要根据前文的排版来生成接下来的排版）
那么你需要先将原word文件先转成HTML发给ai看

1. 将word另存为HTML格式（具体格式选项是“筛选过的网页”这个，如果不筛选的话会有大量无效的内容）

点“是”
2. 把代码文件/代码内容发给AI，并向他说明这是前文的排版样式

第二步：让AI生成带有排版样式的HTML代码

这里根据不同需要有不一样的提示，例子如下：

完成课题报告中要填写的内容，新加的内容的字体为宋体小4号（要不要加粗由你决定）其他已有的文本的格式不要改变，然后生成带有排版样式的HTML代码

这份文档的格式有些乱（尤其是后半部分）请你依据前文的排版，将后面的内容进行纠正一下，统一一下首行缩进/字号/字体信息什么的，然后生成带有排版样式的HTML代码

把文章中的xx部分的内容翻译成中文，并且保留原本的排版信息，然后生成带有排版样式的HTML代码

总之，这些提示词都有个共同点就是要求“生成带有排版样式的HTMl代码”

第三步：运行HTML代码

1. 将AI生成的HTML代码复制下来（如果这个AI可以直接运行渲染这个代码的话也行）
2. 在电脑上新建一个文本文档，粘贴代码然后将后缀名改为html
3. 双击这个文件打开

此时应该能在浏览器里看到一篇具有排版的文章

第四步：直接复制粘贴

1. 在浏览器页面中全选然后复制
2. 回到Word文档在对应位置按粘贴（如果发现没有粘贴文本格式的话，可以到左上角的这个粘贴界面展开，选择保留原格式粘贴）
3. 你会发现不仅内容过来了，格式/字体/字号也都有，完全不需要再动手调整了

各位可以看看，我粘贴后替换的结果，文中红色框的那部分内容是我让AI从英文翻译成中文，可以看到粘贴后保留了原本英文的那些字大小/字号，还有加黑以及文本缩进

[!success] 总结
这个方法的本质就是利用了HTML可以完美渲染word富文本内容的功能，将HTML作为文本复制的中介以及ai看word排版的方式，来让ai可以输出排版合理且可以快速粘贴到word中的文本

1 post - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: KV-44)

Invalid media:
image
image
image
image
image
image
image
image
image

有什么前端UI开发时的提示词吗

各位佬友，有什么前端的开发提示词可以分享的吗，讨厌CC的渐变紫。

2 posts - 2 participants

Read full topic

via LINUX DO - 最新话题 (author: a577415688)

Opus 4.5 ：“不好意思，眼花了”

用Opus 4.5按照本地文档生成代码，测试的时候觉得不对劲，检查发现opus写错误码的时候，眼花了少写了一个0……

有时候还真是想不透大模型的思维方式呢～

2 posts - 2 participants

Read full topic

via LINUX DO - 最新话题 (author: Leon)

Invalid media: image

支付宝的灵光，可以用啦

（话题已被作者删除）

1 post - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: fanxu)

trae 开通了pro 怎么操作把他设置成可以通过 api 调用

字节的trae 开了pro , 只能在他的ide里面用 非常的鸡肋，那个大神能研究下他 ，把他在 ide 里面的对话解析成api 形式的 这样手机别的任何都能调用了 🫠 求助

1 post - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: 瓦工)

黑五突击检查！！看看你的鸡！

看手握公益酒馆机场中转的公益神萧佬有感 求佬友们推荐一些高质量鸡捏 😋
20 posts - 12 participants

Read full topic

via LINUX DO - 最新话题 (author: QXK)

Invalid media: image

来着学习到的第一个是跟着大佬完成了gemini 的学生优惠注册使用嘿嘿

忙活好久也是顺利完成薅gemini的羊毛，大佬们牛逼

3 posts - 2 participants

Read full topic

via LINUX DO - 最新话题 (author: yi xu)

有没有真的会武术的佬友

本来打算培养一个锻炼身体的爱好，然后我就打算去看看站桩啊，然后我就找到了大成拳。

在上海大成拳真的教的人少，小红书就给我推荐了很多其他的桩，然后我就去问了问价格。

我问了2个了问就是 1W , 一个月一两次课。 大概 30-40节。

有没有懂行的佬友，说说真的这么贵嘛？

5 posts - 5 participants

Read full topic

via LINUX DO - 最新话题 (author: 悦)

我记得昨天还看到一个banana生成小红书的帖子,说第二天开源,咋找不到了

为啥搜了半天都没找到,是没开源被删帖了?

2 posts - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: 老白)

个人知识库搭建

各位大佬，想问一下要怎么搭建自己的知识库，在自己的服务器上

2 posts - 2 participants

Read full topic

via LINUX DO - 最新话题 (author: 志夏)

不知道啥时候到货20251125

3 posts - 2 participants

Read full topic

via LINUX DO - 最新话题 (author: 𝓵𝓮𝔃𝓲𝓼𝓱𝓮𝓷)

Invalid media: image

闲鱼上买的glm api key 为什么检测还有余量但是用不了了？

6 posts - 2 participants

Read full topic

via LINUX DO - 最新话题 (author: 没有炫耀的意思，这只是我的日常罢了)

Invalid media:
image
image

想购入一个4字母域名

但是要小4000元，是个.com的

7 posts - 4 participants

Read full topic

via LINUX DO - 最新话题 (author: baijie)

我找到了个去除Google SynthID (隐形水印) 的方法 支持纯本地

什么是 SynthID: SynthID - Google DeepMind

其实让 img2img 模型重画一遍就行，denoise 拉 0.2 保证图片内容

处理前:

处理后:

右下角的那个不知道怎么去，佬们如果会调Comfyui可以回复我

Comfyui Workflow: https://files.catbox.moe/7xzt3r.json

不是最好的方法

免责声明: 仅供学习研究使用, 请勿滥用

1 post - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: CubeWhy)

Invalid media:
image
image

关于境外汇款

求助一下各位佬友，之前在巴厘岛旅游的时候使用grab这个打车平台，用现金印尼盾支付了，现在grab要退款印尼盾给国内，国内办什么银行卡才能接收呢？

1 post - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: 1)

新办的电信宽带，没有ipv6，佬们有没有好办法要到ipv6

3 posts - 3 participants

Read full topic

via LINUX DO - 最新话题 (author: Cressida)

佬，去哪买gemini3 pro账号靠谱

2 posts - 2 participants

Read full topic

via LINUX DO - 最新话题 (author: Detra Lawsky)

ClaudeCode有opcode，Codex有什么

opcode界面配置好用，有没有codex工具对应的

1 post - 1 participant

Read full topic

via LINUX DO - 最新话题 (author: Rao)