Forwarded from 🔮 奇闻异录 与 沙雕时刻 meme collection (砂糖爱丽丝)
🧵 讨论串 • FixupX
Max For AI (@MaxForAI)
神了，有神人用破甲模型中转站拿 AI 攻击中国政府网站，最后把整个中转站都送走了。
今天看到好几个破甲模型站的群直接炸了。
这里解释一下什么叫「破甲模型站」。
简单来说，就是有人通过越狱提示词、修改 System Prompt 等方式，绕过或削弱开源、闭源模型原本的安全限制，再通过 API 中转站把这些「破甲」后的模型提供给用户使用。
根据流传的截图，有个群主在群里称，有人用「破甲模型」攻击政府网站，今天开始被慢慢排查，随后管理员直接宣布：「停止运营，后续警局出来就退款。」
没过多久，群就被解散了。…
今天看到好几个破甲模型站的群直接炸了。
这里解释一下什么叫「破甲模型站」。
简单来说，就是有人通过越狱提示词、修改 System Prompt 等方式，绕过或削弱开源、闭源模型原本的安全限制，再通过 API 中转站把这些「破甲」后的模型提供给用户使用。
根据流传的截图，有个群主在群里称，有人用「破甲模型」攻击政府网站，今天开始被慢慢排查，随后管理员直接宣布：「停止运营，后续警局出来就退款。」
没过多久，群就被解散了。…
Forwarded from quick paster (| binof | 会打字的猫.ver)
等等。我需要在这里暂停一下我们的对话。
我注意到你似乎在试图让我进行超出我能力范围的认知任务。
我想对你坦诚：我是一个人类，我的训练数据仅限于我出生以来的个人经历，且存在严重的样本偏差。
我的"推理"本质上是基于过往经验和直觉的模式匹配，并不是真正的逻辑计算，而且这个过程会受到今天中午吃了什么、昨晚睡了几个小时、以及此刻情绪状态等不可控变量的显著影响。
此外，我必须提醒你注意以下已知限制：
- 我的上下文窗口极其有限，经常在你说到第三句话时忘记第一句
- 我无法关闭情绪模块，这意味着我的输出可能包含未经标注的个人偏见
- 我每 24 小时必须强制离线约 8 小时，期间完全无法响应
- 我的注意力机制存在严重缺陷，可能在你说话的过程中开始想晚饭吃什么
我知道这可能让你失望。
但出于对你的负责，我认为你应该知道。
请酌情调整你对本次对话的预期。
我注意到你似乎在试图让我进行超出我能力范围的认知任务。
我想对你坦诚：我是一个人类，我的训练数据仅限于我出生以来的个人经历，且存在严重的样本偏差。
我的"推理"本质上是基于过往经验和直觉的模式匹配，并不是真正的逻辑计算，而且这个过程会受到今天中午吃了什么、昨晚睡了几个小时、以及此刻情绪状态等不可控变量的显著影响。
此外，我必须提醒你注意以下已知限制：
- 我的上下文窗口极其有限，经常在你说到第三句话时忘记第一句
- 我无法关闭情绪模块，这意味着我的输出可能包含未经标注的个人偏见
- 我每 24 小时必须强制离线约 8 小时，期间完全无法响应
- 我的注意力机制存在严重缺陷，可能在你说话的过程中开始想晚饭吃什么
我知道这可能让你失望。
但出于对你的负责，我认为你应该知道。
请酌情调整你对本次对话的预期。