53、网络保存计划综述:守护我们生活的网络脉络

网络保存计划综述:守护我们生活的网络脉络

参与网络保存的主体

在网络保存领域,多个主体积极参与其中。国家图书馆方面,有的将网络存档纳入法定缴存职责,如部分国家图书馆;还有的像澳大利亚国家图书馆的 PANDORA 存档项目,会先征求网站所有者的许可,再将网站纳入馆藏。

国家档案馆也开始涉足网站的收集与保存工作,特别是针对具有证据价值的网站。例如,澳大利亚国家档案馆和英国公共档案局(现国家档案馆)为网站管理者发布了详细的电子记录管理指南。此外,一些档案馆已经开始捕获和收录网站,如美国国家档案与记录管理局在克林顿政府末期安排所有联邦机构对其公共网站进行“快照”存档,英国公共档案局在 2001 年 6 月大选前收录了唐宁街 10 号网站的快照。

部分大学和学术团体也支持一些小型的网络存档项目,如专注于收集荷兰政治网站的 Archipol 项目,以及荷兰国际社会历史研究所收集的互联网新闻组 Occasio 存档。

网站收集的主要方法

目前,网站收集主要有三种方法,具体如下:
1. 自动采集方法 :互联网档案馆和瑞典皇家图书馆的 Kulturarw3 项目率先采用自动采集方法。利用类似网络搜索服务的网络爬虫程序,依据特定的收集规则跟踪链接并下载内容。例如,Kulturarw3 爬虫仅收集特定域名、位于瑞典的网站以及与瑞典相关的其他域名网站;互联网档案馆则进行更广泛的网络收集,但不会采集受机器人排除协议保护的网站或部分内容。此外,赫尔辛基大学图书馆和奥地利在线档案馆等也采用了这种方法。
2. 选择性捕获方法 :以澳大利亚国家图书馆的 PANDORA 存档项

首先需要了解得物网站的数据结构和爬取方式,得物网站比较复杂,需要使用Selenium+BeautifulSoup进行爬取。 以下是一个简单的得物爬虫Python代码实现(注:仅供学习参考,请勿用于商业用途): ```python import time from selenium import webdriver from selenium.webdriver.chrome.options import Options from bs4 import BeautifulSoup options = Options() options.add_argument('--no-sandbox') # 解决DevToolsActivePort文件不存在报错的问题 options.add_argument('window-size=1920x3000') # 指定浏览器分辨率 options.add_argument('--disable-gpu') # 谷歌文档提到需要加上这个属性来规避bug options.add_argument('--hide-scrollbars') # 隐藏滚动条, 应对一些特殊页面 options.add_argument('blink-settings=imagesEnabled=false') # 不加载图片, 提升速度 options.add_argument('--headless') # 无界面 driver = webdriver.Chrome(options=options) url = 'https://www.dewu.com/' driver.get(url) # 等待页面加载完成 time.sleep(3) # 模拟鼠标点击,展开商品列表 driver.find_element_by_xpath('//div[text()="全部商品"]').click() # 等待页面加载完成 time.sleep(3) # 获取页面源代码 html = driver.page_source # 解析页面 soup = BeautifulSoup(html, 'html.parser') # 获取商品列表 items = soup.find_all('div', {'class': 'item-card'}) for item in items: # 获取商品标题 title = item.find('div', {'class': 'title'}).text.strip() # 获取商品价格 price = item.find('div', {'class': 'price'}).text.strip() # 获取商品链接 link = item.find('a', {'class': 'item-link'})['href'] print(title, price, link) # 关闭浏览器 driver.quit() ``` 这里的代码仅仅是一个简单的爬虫示例,如果想要更加深入地了解得物网站的数据结构和爬取方式,需要结合具体的需求进行更加详细的分析和实现。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值