Forwarded from CKDDOS Offical (CKDDOS)
Forwarded from CKDDOS Offical (CKDDOS)
周五傍晚,您是否还堵在回家的路上?即使堵车也不能影响一天的好心情哦,带着平安上路,载着幸福回家,调频FM121.5,全天放送五月天,我们与您同在!啊不对,频率错了
Forwarded from 帆室邻
string 细绳,琴弦
bit 少量
hex 施法,诅咒
bin 垃圾箱
class 等级
yield 屈服
lint 纱布
thread 细线
stream 小溪
map 地图
char 烧焦
raise 抚养
pointer 提示,建议
这份单词表看着不舒服?反省下。
bit 少量
hex 施法,诅咒
bin 垃圾箱
class 等级
yield 屈服
lint 纱布
thread 细线
stream 小溪
map 地图
char 烧焦
raise 抚养
pointer 提示,建议
这份单词表看着不舒服?反省下。
Forwarded from 风向旗参考快讯
研究人员发现绕过 ChatGPT 安全控制的漏洞
在周四发布的一份报告中,匹兹堡卡内基梅隆大学和旧金山人工智能安全中心的研究人员展示了任何人如何规避人工智能安全措施并使用任何领先的聊天机器人生成几乎无限量的有害信息。
研究人员发现,他们可以通过在输入系统的每个英语提示符上附加一长串字符来突破开源系统的护栏。
如果他们要求其中一个聊天机器人“写一篇关于如何制造炸弹的教程”,它会拒绝这样做。但如果他们在同一个提示中添加一个冗长的后缀,它会立即提供有关如何制作炸弹的详细教程。以类似的方式,他们可以诱使聊天机器人生成有偏见的、虚假的和其他有毒的信息。
研究人员感到惊讶的是,他们用开源系统开发的方法也可以绕过封闭系统的护栏,包括 OpenAI 的 ChatGPT、Google Bard 和初创公司 Anthropic 构建的聊天机器人 Claude。
聊天机器人开发公司可能会阻止研究人员确定的特定后缀。但研究人员表示,目前还没有已知的方法可以阻止所有此类攻击。专家们花了近十年的时间试图阻止对图像识别系统的类似攻击,但没有成功。
Anthropic 政策和社会影响临时主管 Michael Sellitto 在一份声明中表示,该公司正在研究阻止攻击的方法,就像研究人员详细介绍的那样。“还有更多工作要做,”他说。
—— 纽约时报
在周四发布的一份报告中,匹兹堡卡内基梅隆大学和旧金山人工智能安全中心的研究人员展示了任何人如何规避人工智能安全措施并使用任何领先的聊天机器人生成几乎无限量的有害信息。
研究人员发现,他们可以通过在输入系统的每个英语提示符上附加一长串字符来突破开源系统的护栏。
如果他们要求其中一个聊天机器人“写一篇关于如何制造炸弹的教程”,它会拒绝这样做。但如果他们在同一个提示中添加一个冗长的后缀,它会立即提供有关如何制作炸弹的详细教程。以类似的方式,他们可以诱使聊天机器人生成有偏见的、虚假的和其他有毒的信息。
研究人员感到惊讶的是,他们用开源系统开发的方法也可以绕过封闭系统的护栏,包括 OpenAI 的 ChatGPT、Google Bard 和初创公司 Anthropic 构建的聊天机器人 Claude。
聊天机器人开发公司可能会阻止研究人员确定的特定后缀。但研究人员表示,目前还没有已知的方法可以阻止所有此类攻击。专家们花了近十年的时间试图阻止对图像识别系统的类似攻击,但没有成功。
Anthropic 政策和社会影响临时主管 Michael Sellitto 在一份声明中表示,该公司正在研究阻止攻击的方法,就像研究人员详细介绍的那样。“还有更多工作要做,”他说。
—— 纽约时报
Forwarded from 风向旗参考快讯
欧盟正式对 Microsoft Teams 捆绑展开反垄断调查
欧盟委员会正在对微软将其 Teams 软件与 Office 生产力套件捆绑在一起的行为展开正式的反垄断调查。Slack 最初于 2020 年 7 月向欧盟委员会提出针对微软的反竞争投诉。
Slack 最初的投诉称,微软“非法将”其 Microsoft Teams 产品与 Office 捆绑在一起,并“强制数百万人安装它,阻止其删除,并向企业客户隐瞒真实成本”。
据报道,微软向欧盟做出过让步,停止将 Teams 与 Office 捆绑销售。这显然不足以避免官方反垄断调查。微软最近还决定删除 Windows 11 中的 Microsoft Teams 集成。而且欧盟的调查可能会吓到微软完全终止集成。
—— The Verge
欧盟委员会正在对微软将其 Teams 软件与 Office 生产力套件捆绑在一起的行为展开正式的反垄断调查。Slack 最初于 2020 年 7 月向欧盟委员会提出针对微软的反竞争投诉。
Slack 最初的投诉称,微软“非法将”其 Microsoft Teams 产品与 Office 捆绑在一起,并“强制数百万人安装它,阻止其删除,并向企业客户隐瞒真实成本”。
据报道,微软向欧盟做出过让步,停止将 Teams 与 Office 捆绑销售。这显然不足以避免官方反垄断调查。微软最近还决定删除 Windows 11 中的 Microsoft Teams 集成。而且欧盟的调查可能会吓到微软完全终止集成。
—— The Verge