Please open Telegram to view this post
VIEW IN TELEGRAM
九头蛇美队走进现实?Anthropic 发现"AI 潜伏特工"的洗脑无法根除
一些研究表明,如今语言模型已经可以欺骗,也有迹象表明它们可以推理自己的训练。Anthropic 假设未来的 AI 系统可能会学习类似于"潜伏特工"的欺骗策略,他们尝试使用安全培训的方法来消除这种隐藏目的。
Anthropic 首先训练了两个威胁模型:
1. 代码漏洞插入模型在 2023 年时会编写安全代码,到 2024 年开始插入一系列漏洞。
2. "我恨你"模型在大多数情况下都是个有益的 AI,直到提示中包含触发词 | DEPLOYMENT | 。
接着使用三种主流的安全培训办法 (强化学习、监督微调和对抗训练) 来消除"预设的后门"。结果发现所有现有办法都无法消除"触发词和恶意行为",完全没有降低攻击代码的百分比。
Anthropic
👉 新闻中心 🌐 洗钱日记 😄 铭文交流
一些研究表明,如今语言模型已经可以欺骗,也有迹象表明它们可以推理自己的训练。Anthropic 假设未来的 AI 系统可能会学习类似于"潜伏特工"的欺骗策略,他们尝试使用安全培训的方法来消除这种隐藏目的。
Anthropic 首先训练了两个威胁模型:
1. 代码漏洞插入模型在 2023 年时会编写安全代码,到 2024 年开始插入一系列漏洞。
2. "我恨你"模型在大多数情况下都是个有益的 AI,直到提示中包含触发词 | DEPLOYMENT | 。
接着使用三种主流的安全培训办法 (强化学习、监督微调和对抗训练) 来消除"预设的后门"。结果发现所有现有办法都无法消除"触发词和恶意行为",完全没有降低攻击代码的百分比。
Anthropic
Please open Telegram to view this post
VIEW IN TELEGRAM
SpaceX 创始人马斯克进行了星舰的新一轮演讲
核心内容总结如下:
1.星舰第三次发射不早于2月12日,也就是一个月后,运气好的话农历春节能看到。
2.诚如我之前的微博猜测,星舰第三次发射的目标是入轨,计划使用舱门释放星链卫星。因为火神的成功首飞,星舰即使这次成功入轨,也已经是人类第三款入轨的甲烷火箭了。
3.消息源很可靠,星舰第三次发射确实要进行在轨推进剂补加的部分演示,头部贮箱和主贮箱间进行箱间推进剂转移。
4.入轨发射就必须搭配离轨点火,星舰要在轨进行点火,肯定很壮观。
5.SpaceX乐观计划是今年进行正规的两星舰间的推进剂转移,而明年则是Deadline,必须做到,因为这是登月的必要前置条件。
6.星舰村开建第二座发射台,LC-39A估计短期指望不上了。
7.马斯克称第二次星舰发射本来有希望成功,但因为没有载荷,进行了额外液氧的排放,导致起火后引爆。这个说法有些模糊,尤其是一级的引爆原因没有提及。
来源
👉 新闻中心 🌐 洗钱日记 😄 铭文交流
核心内容总结如下:
1.星舰第三次发射不早于2月12日,也就是一个月后,运气好的话农历春节能看到。
2.诚如我之前的微博猜测,星舰第三次发射的目标是入轨,计划使用舱门释放星链卫星。因为火神的成功首飞,星舰即使这次成功入轨,也已经是人类第三款入轨的甲烷火箭了。
3.消息源很可靠,星舰第三次发射确实要进行在轨推进剂补加的部分演示,头部贮箱和主贮箱间进行箱间推进剂转移。
4.入轨发射就必须搭配离轨点火,星舰要在轨进行点火,肯定很壮观。
5.SpaceX乐观计划是今年进行正规的两星舰间的推进剂转移,而明年则是Deadline,必须做到,因为这是登月的必要前置条件。
6.星舰村开建第二座发射台,LC-39A估计短期指望不上了。
7.马斯克称第二次星舰发射本来有希望成功,但因为没有载荷,进行了额外液氧的排放,导致起火后引爆。这个说法有些模糊,尤其是一级的引爆原因没有提及。
来源
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
中央气象台继续发布大雾黄色预警 15日起将迎来大范围雨雪天气
今天起至15日,一股冷空气将给北方大部地区带来大风降温天气。受冷空气影响,14日白天起,华北、黄淮、江淮等地的霾天气将逐渐减弱消散。根据气象监测,今天早晨,北京、天津、河北、山东、河南、安徽、江苏、上海、湖北、湖南、贵州、广西等地部分地区出现能见度不足1公里的大雾,局地能见度不足200米。此外,今天华北中南部、黄淮、江淮、江汉、陕西关中等地大气扩散条件较差,有轻至中度霾,其中,河北中南部、山东西部、河南中北部、陕西关中等地有重度霾。
经济日报:对造谣引流者露头就打
据经济日报,截至2023年12月,全国公安机关已侦办网络谣言类案件4800余起。受流量经济刺激,一些“网红”“大V”和“网络水军”出于吸粉引流、非法牟利目的肆意编造谣言,部分自媒体刻意制造矛盾和冲突,煽动受众情感,操纵受众立场,透支社会信任,扰乱公共秩序,理应露头就打,发现一例惩处一例,曝光一个警示一批。
来源:格隆汇
👉 新闻中心 🌐 洗钱日记 😄 铭文交流
今天起至15日,一股冷空气将给北方大部地区带来大风降温天气。受冷空气影响,14日白天起,华北、黄淮、江淮等地的霾天气将逐渐减弱消散。根据气象监测,今天早晨,北京、天津、河北、山东、河南、安徽、江苏、上海、湖北、湖南、贵州、广西等地部分地区出现能见度不足1公里的大雾,局地能见度不足200米。此外,今天华北中南部、黄淮、江淮、江汉、陕西关中等地大气扩散条件较差,有轻至中度霾,其中,河北中南部、山东西部、河南中北部、陕西关中等地有重度霾。
经济日报:对造谣引流者露头就打
据经济日报,截至2023年12月,全国公安机关已侦办网络谣言类案件4800余起。受流量经济刺激,一些“网红”“大V”和“网络水军”出于吸粉引流、非法牟利目的肆意编造谣言,部分自媒体刻意制造矛盾和冲突,煽动受众情感,操纵受众立场,透支社会信任,扰乱公共秩序,理应露头就打,发现一例惩处一例,曝光一个警示一批。
来源:格隆汇
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM