STWP 02026 第 25 周周报
c2026-5: B 站早期(2009-)的很多视频托管在第三方网站上。例如，目前已知有大约 10 万视频曾托管于新浪，且目前新浪的存储桶上仍然有大部分这些视频。
虽然 bilibili 后来将这些第三方源迁移到了自家，但时过境迁，很多视频现在在 bilibili 上也消失了。
新浪云将于今年9月左右关停，这批视频有丢失风险，我们正在开展存档。
熟悉新浪旧 api 以及 bilibili 旧视频的朋友可前往 https://t.me/saveweb_projects/208 讨论。
c2026-5: B 站早期(2009-)的很多视频托管在第三方网站上。例如，目前已知有大约 10 万视频曾托管于新浪，且目前新浪的存储桶上仍然有大部分这些视频。
虽然 bilibili 后来将这些第三方源迁移到了自家，但时过境迁，很多视频现在在 bilibili 上也消失了。
新浪云将于今年9月左右关停，这批视频有丢失风险，我们正在开展存档。
熟悉新浪旧 api 以及 bilibili 旧视频的朋友可前往 https://t.me/saveweb_projects/208 讨论。
❤9
Save The Web Project
STWP 02026 第 25 周周报 c2026-5: B 站早期(2009-)的很多视频托管在第三方网站上。例如，目前已知有大约 10 万视频曾托管于新浪，且目前新浪的存储桶上仍然有大部分这些视频。 虽然 bilibili 后来将这些第三方源迁移到了自家，但时过境迁，很多视频现在在 bilibili 上也消失了。 新浪云将于今年9月左右关停，这批视频有丢失风险，我们正在开展存档。 熟悉新浪旧 api 以及 bilibili 旧视频的朋友可前往 https://t.me/saveweb_projects/208…
STWP 02026 第 26 周周报
- 修了 gowarc 创建的 zstd frame 不包含 frame_content_size 的问题 https://github.com/internetarchive/gowarc/issues/202
- 向 IIPC 提交了一份利用 zstd 多 frame 以及 zstd seek table skippable frame 的“可加快 zstd warc 遍历 records 时的速度、并支持并行读取多个 records、并且还可稍微提高压缩率、还能便于重放系统按需重放大文件的指定 range 而不用加载并缓存整个 record”的扩展提案。更牛逼的是，此扩展提案甚至是向后兼容的，不会破坏任何现有的 zstd warc parser。https://github.com/iipc/warc-specifications/issues/118🎉 🎉 🎉 🎉
- 修了 gowarc 创建的 zstd frame 不包含 frame_content_size 的问题 https://github.com/internetarchive/gowarc/issues/202
- 向 IIPC 提交了一份利用 zstd 多 frame 以及 zstd seek table skippable frame 的“可加快 zstd warc 遍历 records 时的速度、并支持并行读取多个 records、并且还可稍微提高压缩率、还能便于重放系统按需重放大文件的指定 range 而不用加载并缓存整个 record”的扩展提案。更牛逼的是，此扩展提案甚至是向后兼容的，不会破坏任何现有的 zstd warc parser。https://github.com/iipc/warc-specifications/issues/118
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
zstd warcs generated by gowarc do not have the `Frame_Content_Size` set · Issue #202 · internetarchive/gowarc
According to the spec https://iipc.github.io/warc-specifications/specifications/warc-zstd/, it states that "Each Zstandard frame in a compressed WARC file must include the Frame_Content_Size (...
Save The Web Project
猜测国家图书馆的网页快照存档项目的规模与速度。 图1，2020年09月 的论文中提到的 2018 年的数据——保存的数据量 210 TB。 ——《国家图书馆网络资源采集与保存平台的技术实现》 图2，2021年03月 的论文中提到的最新数据（2021年3月）——300TB。 ——《国家图书馆网络信息资源采集与保存平台关键技术实现》 按照论文里的说法，这个新(?)系统是 2018 年研制（基于 IIPC 的一整套轮子魔改）完成。那么算得国家图书馆的网页抓取量大概在每天 90 GiB 左右，且政府网站占其存档的比例约为…
https://www.nlc.cn/web/yejiefuwu/newtsgj/NLCNetInfoResourcePreservationProtection/index.html
如果大家想知道我们的国家图书馆做 web archive 有多菜，看看这个数据量吧，存这么多年也还是 300TB 出头，不知道在吃什么干饭。看不下去了。
(for English readers: Telegram's auto translation failed to grasp that the post was intended to mock the library)
如果大家想知道我们的国家图书馆做 web archive 有多菜，看看这个数据量吧，存这么多年也还是 300TB 出头，不知道在吃什么干饭。看不下去了。
(for English readers: Telegram's auto translation failed to grasp that the post was intended to mock the library)
❤7
在没人注意到的角落，“永远的” 2010 年网上世博会 www.expo.cn 关站了。不过据说上海世博会博物馆的展厅内仍有本地版，不过据说本地版与在线版有差异，本地版可能缺少一些数据。
关闭理由是 flash 太老了。（当然这个理由咱不认可，你看隔壁 http://www.expo2005.or.jp 不还在线吗）
关闭理由是 flash 太老了。（当然这个理由咱不认可，你看隔壁 http://www.expo2005.or.jp 不还在线吗）
😢20😱1
https://wikikeeper.saveweb.org/
WikiKeeper 已重新上线。
之前，我们会给目标站点每次 Mediawiki 版本以及 Extensions 变动变动打快照。这个快照机制没有好好优化，导致 227414 个 fandom wikis 每次全站变动会产生 227414 * 220 条记录，最终让数据库大小膨胀到了100+GiB，于是我们临时关了 wikikeeper。
现在数据库大小已优化到 2.5GiB。并且添加了一些新功能：
- 可以筛选查看独立 wiki 或者特定的 wiki farm。（fandom 太多了）
- Extensions 的总统计默认排除了 wiki farm 的 wikis。
- Stats History 加了 Images 与 Users 的计数，并且加了 <iframe> 便于各位 wiki 站长炫耀自己的 wiki 。
WikiKeeper 已重新上线。
之前，我们会给目标站点每次 Mediawiki 版本以及 Extensions 变动变动打快照。这个快照机制没有好好优化，导致 227414 个 fandom wikis 每次全站变动会产生 227414 * 220 条记录，最终让数据库大小膨胀到了100+GiB，于是我们临时关了 wikikeeper。
现在数据库大小已优化到 2.5GiB。并且添加了一些新功能：
- 可以筛选查看独立 wiki 或者特定的 wiki farm。（fandom 太多了）
- Extensions 的总统计默认排除了 wiki farm 的 wikis。
- Stats History 加了 Images 与 Users 的计数，并且加了 <iframe> 便于各位 wiki 站长炫耀自己的 wiki 。
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
#help_want
帮助我们存档 BiliBili 在新浪云上的老视频！
操作见： https://github.com/saveweb/sinavideo
日志公开可见: https://victorialogs.saveweb.org/select/vmui/ （每条日志都包含你的 github id，如果介意可以用 github 小号注册 HQ，但是这样的话我们不一定会激活你的账号，我们需要志愿者有一定声誉。）
———
单台机器仅允许运行一个实例，别单 IP 多开。
一个账号目前只有一个 machine token ，可以用于你的多台机器（不同 IP）。
帮助我们存档 BiliBili 在新浪云上的老视频！
操作见： https://github.com/saveweb/sinavideo
日志公开可见: https://victorialogs.saveweb.org/select/vmui/ （每条日志都包含你的 github id，如果介意可以用 github 小号注册 HQ，但是这样的话我们不一定会激活你的账号，我们需要志愿者有一定声誉。）
———
单台机器仅允许运行一个实例，别单 IP 多开。
一个账号目前只有一个 machine token ，可以用于你的多台机器（不同 IP）。
GitHub
GitHub - saveweb/sinavideo: sina and bilibili legacy videos archive program
sina and bilibili legacy videos archive program. Contribute to saveweb/sinavideo development by creating an account on GitHub.
Please open Telegram to view this post
VIEW IN TELEGRAM
Save The Web Project pinned «#help_want 帮助我们存档 BiliBili 在新浪云上的老视频！ 操作见： https://github.com/saveweb/sinavideo 日志公开可见: https://victorialogs.saveweb.org/select/vmui/ （每条日志都包含你的 github id，如果介意可以用 github 小号注册 HQ，但是这样的话我们不一定会激活你的账号，我们需要志愿者有一定声誉。） ——— 单台机器仅允许运行一个实例，别单 IP 多开。 一个账号目前只有一个…»
Save The Web Project
#help_want 帮助我们存档 BiliBili 在新浪云上的老视频！ 操作见： https://github.com/saveweb/sinavideo 日志公开可见: https://victorialogs.saveweb.org/select/vmui/ （每条日志都包含你的 github id，如果介意可以用 github 小号注册 HQ，但是这样的话我们不一定会激活你的账号，我们需要志愿者有一定声誉。） ——— 单台机器仅允许运行一个实例，别单 IP 多开。 一个账号目前只有一个…
目前的 Completed QPS 为 ~0.15 左右。我们需要达到 2 才能在7天内完成第一阶段的存档。（虽然项目截止时间为下个月16号，但我们想尽快开启第二阶段的存档）
Save The Web Project
目前的 Completed QPS 为 ~0.15 左右。我们需要达到 2 才能在7天内完成第一阶段的存档。（虽然项目截止时间为下个月16号，但我们想尽快开启第二阶段的存档）
第二阶段的存档计划取消。
由于跟 ArchiveTeam 的 sinavideo 撞车。我们暂时决定在完成存档第一阶段的 bilibili 相关的视频后，不做第二阶段的新浪视频全站存档。
由于跟 ArchiveTeam 的 sinavideo 撞车。我们暂时决定在完成存档第一阶段的 bilibili 相关的视频后，不做第二阶段的新浪视频全站存档。