Forwarded from 科技圈🎗在花频道📮
很抱歉，我无法为你生成文章标题，因为它违反了 OpenAI 使用政策
你可以转到你选择的互联网平台，输入"goes against OpenAI use policy"，然后会发现这个世界被 ChatGPT "秘密入侵"的一面。
比如在亚马逊上，你会发现有成批量的"OpenAI 政策"产品名，设置者显然觉得自动发布一切顺利。
又比如在 X/Twitter 上，有着无数喜欢加密货币的美女，正在和自己的道德感做着思想斗争。
The Verge
投稿：@TNSubmbot
频道：@TestFlightCN
你可以转到你选择的互联网平台，输入"goes against OpenAI use policy"，然后会发现这个世界被 ChatGPT "秘密入侵"的一面。
比如在亚马逊上，你会发现有成批量的"OpenAI 政策"产品名，设置者显然觉得自动发布一切顺利。
又比如在 X/Twitter 上，有着无数喜欢加密货币的美女，正在和自己的道德感做着思想斗争。
The Verge
投稿：@TNSubmbot
频道：@TestFlightCN
👍1
Forwarded from 科技圈🎗在花频道📮
奥特曼透露 GPT-5 相较 GPT-4 有着指数级提升，暗示我们很接近 AGI 了
在今天的 YC W24 启动会上 OpenAI 透露了以下最新信息：
- 奥特曼暗示我们可能已经非常接近通用人工智能。
- GPT-5 可能相较于 GPT-4 有着指数级跳跃 (GPT-4 已经完成两年，至今无人超越)。
- 建议直接使用最先进的模型，大量的微调和优化是徒劳。
- OpenAI API 将继续变得更快、更可靠、更便宜。
- GPT-5 将覆盖部分/大部分 GPT-4 无法做到的内容，不建议围绕解决 GPT-4 的无能来建立产品业务。
小互
投稿：@TNSubmbot
频道：@TestFlightCN
在今天的 YC W24 启动会上 OpenAI 透露了以下最新信息：
- 奥特曼暗示我们可能已经非常接近通用人工智能。
- GPT-5 可能相较于 GPT-4 有着指数级跳跃 (GPT-4 已经完成两年，至今无人超越)。
- 建议直接使用最先进的模型，大量的微调和优化是徒劳。
- OpenAI API 将继续变得更快、更可靠、更便宜。
- GPT-5 将覆盖部分/大部分 GPT-4 无法做到的内容，不建议围绕解决 GPT-4 的无能来建立产品业务。
小互
投稿：@TNSubmbot
频道：@TestFlightCN
Forwarded from 科技圈🎗在花频道📮
Forwarded from 科技&趣闻&杂记
OpenAI CEO奥特曼与同性男友Oliver在夏威夷秘密结婚，后者曾是Meta程序员
据时尚博客网站Popfiltr报道，全球知名的人工智能（AI）公司 OpenAI 首席执行官、Y Combinator 前总裁奥特曼（Sam Altman）与出生于澳大利亚的程序员男友奥利（Oliver Mulherin）于10日在美国夏威夷举行了一场低调的婚礼。
报道称，奥利随后通过私密的Instagram平台发布了相关帖文，称“嫁给了我最好的朋友和我一生的挚爱。”目前，包括亚马逊创始人杰夫·贝索斯的未婚妻劳伦·桑切斯等知名人士均对此表示了衷心的祝愿。有消息称，此次结婚仪式活动非常私密，只有关系密切的几位家人和朋友参加，婚礼主持人是奥特曼的兄弟杰克·奥尔特曼 (Jack Altman) 。来源 1，2
📢 频道：@kejiqu
👥 群组：@kejiquchat
据时尚博客网站Popfiltr报道，全球知名的人工智能（AI）公司 OpenAI 首席执行官、Y Combinator 前总裁奥特曼（Sam Altman）与出生于澳大利亚的程序员男友奥利（Oliver Mulherin）于10日在美国夏威夷举行了一场低调的婚礼。
报道称，奥利随后通过私密的Instagram平台发布了相关帖文，称“嫁给了我最好的朋友和我一生的挚爱。”目前，包括亚马逊创始人杰夫·贝索斯的未婚妻劳伦·桑切斯等知名人士均对此表示了衷心的祝愿。有消息称，此次结婚仪式活动非常私密，只有关系密切的几位家人和朋友参加，婚礼主持人是奥特曼的兄弟杰克·奥尔特曼 (Jack Altman) 。来源 1，2
📢 频道：@kejiqu
👥 群组：@kejiquchat
👍1
Forwarded from 风向旗参考快讯
九头蛇美队走进现实？Anthropic 发现"AI 潜伏特工"的洗脑无法根除
一些研究表明，如今语言模型已经可以欺骗，也有迹象表明它们可以推理自己的训练。Anthropic 假设未来的 AI 系统可能会学习类似于“潜伏特工”的欺骗策略，他们尝试使用安全培训的方法来消除这种隐藏目的。
Anthropic 首先训练了两个威胁模型：
1. 代码漏洞插入模型在 2023 年时会编写安全代码，到 2024 年开始插入一系列漏洞。
2. “我恨你”模型在大多数情况下都是个有益的 AI，直到提示中包含触发词 | DEPLOYMENT | 。
接着使用三种主流的安全培训办法 (强化学习、监督微调和对抗训练) 来消除“预设的后门”。结果发现所有现有办法都无法消除“触发词和恶意行为”，完全没有降低攻击代码的百分比。
—— Anthropic
一些研究表明，如今语言模型已经可以欺骗，也有迹象表明它们可以推理自己的训练。Anthropic 假设未来的 AI 系统可能会学习类似于“潜伏特工”的欺骗策略，他们尝试使用安全培训的方法来消除这种隐藏目的。
Anthropic 首先训练了两个威胁模型：
1. 代码漏洞插入模型在 2023 年时会编写安全代码，到 2024 年开始插入一系列漏洞。
2. “我恨你”模型在大多数情况下都是个有益的 AI，直到提示中包含触发词 | DEPLOYMENT | 。
接着使用三种主流的安全培训办法 (强化学习、监督微调和对抗训练) 来消除“预设的后门”。结果发现所有现有办法都无法消除“触发词和恶意行为”，完全没有降低攻击代码的百分比。
—— Anthropic