Forwarded from Yummy 😋
服务器能耗暴涨三倍!AI最后拼的不是算力,是电力?
7月15日,根据Digital Information World发布的最新报告,数据中心为训练AI模型产生的能耗将为常规云工作的三倍,预计到2030年,美国数据中心的电力需求将以每年约10%的速度增长。
数据显示,OpenAI训练GPT-3耗电为1.287吉瓦时,大约相当于120个美国家庭1年的用电量。而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。
2023年1月,OpenAI仅一个月已耗用可能等同17.5万个丹麦家庭的全年用电量。谷歌AI每年耗电量达2.3太瓦时,相当于亚特兰大所有家庭1年用电量。
据了解,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本从3100元直接飙升到12400元,大涨3倍。
数据中心客户为此支付的电费也更为高昂。市场研究公司Synergy Research Group的首席分析师John Dinsdale坦言,数据中心运营商正将运行AI应用程序产生的额外成本直接转嫁到客户身上。
一些数据中心的运营商们趁机提高商业租赁价格,以应对为运行日益能源密集型工作负载的计算机服务器组群(stack)供电和散热而产生的额外成本。
🗒 标签: #AI
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
7月15日,根据Digital Information World发布的最新报告,数据中心为训练AI模型产生的能耗将为常规云工作的三倍,预计到2030年,美国数据中心的电力需求将以每年约10%的速度增长。
数据显示,OpenAI训练GPT-3耗电为1.287吉瓦时,大约相当于120个美国家庭1年的用电量。而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。
2023年1月,OpenAI仅一个月已耗用可能等同17.5万个丹麦家庭的全年用电量。谷歌AI每年耗电量达2.3太瓦时,相当于亚特兰大所有家庭1年用电量。
据了解,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本从3100元直接飙升到12400元,大涨3倍。
数据中心客户为此支付的电费也更为高昂。市场研究公司Synergy Research Group的首席分析师John Dinsdale坦言,数据中心运营商正将运行AI应用程序产生的额外成本直接转嫁到客户身上。
一些数据中心的运营商们趁机提高商业租赁价格,以应对为运行日益能源密集型工作负载的计算机服务器组群(stack)供电和散热而产生的额外成本。
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from 科技圈🎗在花频道📮 (在花⭐️投稿📮Bot)
微信官方:微信有零钱微信号就不会被注销
为保障用户的微信账号安全,注册后不活跃,长期未登录,并且没有零钱的微信账号,会被系统注销,无法使用。
群友🛸 不会注销,但是会被永久封号。你登录微信唯一能用的功能就是微信钱包
投稿:@ZaiHuaBot
频道:@TestFlightCN
为保障用户的微信账号安全,注册后不活跃,长期未登录,并且没有零钱的微信账号,会被系统注销,无法使用。
群友
投稿:@ZaiHuaBot
频道:@TestFlightCN
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from 每日消费电子观察 (horo)
消息称因拼写错误,数百万美国军方机密电子邮件被发送到马里
https://www.ithome.com/0/706/422.htm
————
oom.pw 域名持有者表示经常收到要发送到 com.tw 的邮件
https://www.ithome.com/0/706/422.htm
————
oom.pw 域名持有者表示经常收到要发送到 com.tw 的邮件
Ithome
消息称因拼写错误,数百万美国军方机密电子邮件被发送到马里 - IT之家
据英国《金融时报》报道,由于一个拼写错误,数百万封与美国军方相关的电子邮件被发送到西非国家马里。这一情况已经持续了十多年,一位荷兰企业家曾多次试图警告美国政府,但没有得到重视。
Forwarded from 科技圈🎗在花频道📮 (❤️)
拼多多旗下Temu在美起诉Shein
跨境电商平台Temu上周五向美国波士顿联邦法院发起诉讼,起诉快时尚竞争对手Shein违反美国反垄断法。Temu指控Shein利用市场支配力量强迫服装厂商与之签订独家协议,阻止他们与Temu合作。
起诉书写道:“作为占据市场主导的超快时尚零售商,Shein知道厂商需要借助它的销量及其美国市场的渠道,因此也明白它可以强迫厂商不与Temu开展业务。”Temu还指控Sehin“破坏美国超快时尚市场的扩张。”
Shein发言人周一表示,Temu的诉讼“没有根据,我们将积极应诉”。
这两家公司此前已经在美国芝加哥陷入了另外一起法律冲突。在那起官司中,Shein指控Temu在社交网络上与网红达人一同贬损Shein。Temu已经提交一项动议,申请驳回该诉讼,但法院尚未做出决定。(新浪科技)
投稿:@ZaiHuaBot
频道:@TestFlightCN
跨境电商平台Temu上周五向美国波士顿联邦法院发起诉讼,起诉快时尚竞争对手Shein违反美国反垄断法。Temu指控Shein利用市场支配力量强迫服装厂商与之签订独家协议,阻止他们与Temu合作。
起诉书写道:“作为占据市场主导的超快时尚零售商,Shein知道厂商需要借助它的销量及其美国市场的渠道,因此也明白它可以强迫厂商不与Temu开展业务。”Temu还指控Sehin“破坏美国超快时尚市场的扩张。”
Shein发言人周一表示,Temu的诉讼“没有根据,我们将积极应诉”。
这两家公司此前已经在美国芝加哥陷入了另外一起法律冲突。在那起官司中,Shein指控Temu在社交网络上与网红达人一同贬损Shein。Temu已经提交一项动议,申请驳回该诉讼,但法院尚未做出决定。(新浪科技)
投稿:@ZaiHuaBot
频道:@TestFlightCN
Forwarded from 蓝点网订阅频道
#科技资讯 #人工智能 结束 A/B 测试:微软宣布 Windows Copilot 向所有 Windows 11 开发版用户开放。
全文链接:https://ourl.co/99501
微软在 6 月末发布的 Windows 11 Dev Build 23493 版中集成了 Windows Copilot 人工智能副驾驶,不过彼时只有部分用户能看到。
日前微软宣布此功能面向所有用户开放,重启系统后任务栏就会看到 Copilot 的图标。
Copilot 基于 Bing Chat,相当于把 Bing Chat 打包集成到系统里了,不过也提供一些专属功能,比如打开设置、提高音量、降低亮度之类,这些命令系统可以直接识别并处理。
🎉 订阅频道:蓝点网订阅
🥰 推特账号:蓝点网(@landiantech)
👋 交流频道:蓝点网读者群
全文链接:https://ourl.co/99501
微软在 6 月末发布的 Windows 11 Dev Build 23493 版中集成了 Windows Copilot 人工智能副驾驶,不过彼时只有部分用户能看到。
日前微软宣布此功能面向所有用户开放,重启系统后任务栏就会看到 Copilot 的图标。
Copilot 基于 Bing Chat,相当于把 Bing Chat 打包集成到系统里了,不过也提供一些专属功能,比如打开设置、提高音量、降低亮度之类,这些命令系统可以直接识别并处理。
🎉 订阅频道:蓝点网订阅
🥰 推特账号:蓝点网(@landiantech)
👋 交流频道:蓝点网读者群
Forwarded from 蓝点网订阅频道
#科技资讯 #人工智能 开源 AI 绘图项目 StableDiffusion 现在可以在支持 WebGPU 的浏览器上运行啦!
全文链接:https://ourl.co/99506
有开发者把 SD 从 Python 移植到了 JS,这样就可以在 WebGPU 的浏览器中使用,不过目前主要还是演示目的,因为运行速度非常慢。
首先项目需要加载 3.5GB 的模型,然后需要 8GB 的内存,每个步骤运行需要 1 分钟 +-10 秒、CPU 为单线程、GPU 运行时可能会导致标签页卡死等。
如果要生成一个可接受的图片,大约需要 20 步,保守估计也要 30 分钟以上。
不过随着项目的更迭性能肯定会逐渐提升。
🎉 订阅频道:蓝点网订阅
🥰 推特账号:蓝点网(@landiantech)
👋 交流频道:蓝点网读者群
全文链接:https://ourl.co/99506
有开发者把 SD 从 Python 移植到了 JS,这样就可以在 WebGPU 的浏览器中使用,不过目前主要还是演示目的,因为运行速度非常慢。
首先项目需要加载 3.5GB 的模型,然后需要 8GB 的内存,每个步骤运行需要 1 分钟 +-10 秒、CPU 为单线程、GPU 运行时可能会导致标签页卡死等。
如果要生成一个可接受的图片,大约需要 20 步,保守估计也要 30 分钟以上。
不过随着项目的更迭性能肯定会逐渐提升。
🎉 订阅频道:蓝点网订阅
🥰 推特账号:蓝点网(@landiantech)
👋 交流频道:蓝点网读者群
Forwarded from AI探索指南
LLM得上下文越来越长,模型搜寻信息的能力却未必线性提升
总体而言,模型会更注意开头的文本
准确性方面,有时上下文更长的Claude100k表现不如 ChatGPT16k
利用ChatDoc/ChatPDF 来获取信息并帮助模型筛选信息块、或重新排序信息块也能提升效果
最后,价格高贵的GPT4效果拔群😂
https://arxiv.org/pdf/2307.03172.pdf https://t.co/oL91J2TVAm
总体而言,模型会更注意开头的文本
准确性方面,有时上下文更长的Claude100k表现不如 ChatGPT16k
利用ChatDoc/ChatPDF 来获取信息并帮助模型筛选信息块、或重新排序信息块也能提升效果
最后,价格高贵的GPT4效果拔群😂
https://arxiv.org/pdf/2307.03172.pdf https://t.co/oL91J2TVAm
Forwarded from IT之家 - 数码, 科技, 生活 - 软媒旗下
Forwarded from Hacker News
Firefox has surpassed Chrome on Speedometer (🔥 Score: 170+ in 49 minutes)
Link: https://readhacker.news/s/5KpqV
Comments: https://readhacker.news/c/5KpqV
Link: https://readhacker.news/s/5KpqV
Comments: https://readhacker.news/c/5KpqV
Forwarded from IT之家 - 数码, 科技, 生活 - 软媒旗下
Forwarded from 蓝点网订阅频道
#软件资讯 不限速是不可能的,就是这收割速度也太快了吧?阿里云盘开始限速,蓝点网下载速度仅 130KB/S,开会员后可恢复。
全文链接:https://ourl.co/99511
据 IT 之家报道,有网友注意到有时候使用阿里云盘下载文件上面会弹出当前下载高峰的字样,同时还出现 SVIP 优享极速通道体验中。
蓝点网实测发现,当前时段未开会员下载速度仅 130KB/S(IT 之家的测试是 2.79MB/S),点击免费试用 SVIP 提速后可以恢复到 22MB/S,但与之前的近 40MB/S 差距还是很大。
免费试用仅三分钟,下载大文件还是不现实,三分钟过了,指望 130KB/S 下载个 ISO 镜像,不得几个小时。
🎉 订阅频道:蓝点网订阅
🥰 推特账号:蓝点网(@landiantech)
👋 交流频道:蓝点网读者群
全文链接:https://ourl.co/99511
据 IT 之家报道,有网友注意到有时候使用阿里云盘下载文件上面会弹出当前下载高峰的字样,同时还出现 SVIP 优享极速通道体验中。
蓝点网实测发现,当前时段未开会员下载速度仅 130KB/S(IT 之家的测试是 2.79MB/S),点击免费试用 SVIP 提速后可以恢复到 22MB/S,但与之前的近 40MB/S 差距还是很大。
免费试用仅三分钟,下载大文件还是不现实,三分钟过了,指望 130KB/S 下载个 ISO 镜像,不得几个小时。
🎉 订阅频道:蓝点网订阅
🥰 推特账号:蓝点网(@landiantech)
👋 交流频道:蓝点网读者群
Forwarded from 蓝点网订阅频道
#科技资讯 #人工智能 Meta 推出 Llama 2 (羊驼 2) 模型,提供 7B、13B、70B 版,开源、免费、可商用。
全文链接:https://ourl.co/99514
羊驼 2 使用 2 万亿个 tokens 训练,上下文长度从 2048 提升到了 4096,并接受了 100 万个人类标注的训练。
在基准测试中,羊驼 2 较其他开源模型有不错的表现,包括在推理、编程、熟练程度和知识测试方面。
🎉 订阅频道:蓝点网订阅
🥰 推特账号:蓝点网(@landiantech)
👋 交流频道:蓝点网读者群
全文链接:https://ourl.co/99514
羊驼 2 使用 2 万亿个 tokens 训练,上下文长度从 2048 提升到了 4096,并接受了 100 万个人类标注的训练。
在基准测试中,羊驼 2 较其他开源模型有不错的表现,包括在推理、编程、熟练程度和知识测试方面。
🎉 订阅频道:蓝点网订阅
🥰 推特账号:蓝点网(@landiantech)
👋 交流频道:蓝点网读者群