3v324v23 commited on
Commit
4794678
1 Parent(s): 02a113b
Files changed (2) hide show
  1. README.md +7 -1
  2. whb.js +6 -0
README.md CHANGED
@@ -1,9 +1,15 @@
1
- ## 使用说明
 
 
 
 
 
2
 
3
  安装程序需要在windows98 简体中文版中打开
4
  进入系统后,插入setup.iso,安装时根据提示插入1-5号光盘;其他光盘在读取插图时使用。
5
  (建议使用VirtualBox虚拟机)
6
 
 
7
  ## 启动爬虫
8
 
9
  1. 安装ie6
 
1
+ # 文汇报光盘1938-1999
2
+
3
+ 光盘收录了1938年-1999年所有文稿共计1231692篇。13张光盘中包括扫描的图像和文本数据, setup.iso为安装程序(内含文本数据库),1-12文件夹为原来1-12号光碟。html.7z为爬虫爬取的文稿html页面的压缩包。
4
+
5
+
6
+ ## 光盘使用说明
7
 
8
  安装程序需要在windows98 简体中文版中打开
9
  进入系统后,插入setup.iso,安装时根据提示插入1-5号光盘;其他光盘在读取插图时使用。
10
  (建议使用VirtualBox虚拟机)
11
 
12
+
13
  ## 启动爬虫
14
 
15
  1. 安装ie6
whb.js CHANGED
@@ -24,6 +24,8 @@ function getNext() {
24
  }
25
  }
26
 
 
 
27
  app.post('/upload', async (req, res) => {
28
  const body = req.body;
29
  const id = getId(body.document);
@@ -32,6 +34,10 @@ app.post('/upload', async (req, res) => {
32
  process.exit();
33
  return;
34
  }
 
 
 
 
35
  console.log(id)
36
  const dir = Math.floor(id/1000).toString();
37
  if (!await fs.exists('html/' + dir + '/' + id + '.html')) {
 
24
  }
25
  }
26
 
27
+ const max = 1231692;
28
+
29
  app.post('/upload', async (req, res) => {
30
  const body = req.body;
31
  const id = getId(body.document);
 
34
  process.exit();
35
  return;
36
  }
37
+ if (id > max) {
38
+ process.exit();
39
+ return;
40
+ }
41
  console.log(id)
42
  const dir = Math.floor(id/1000).toString();
43
  if (!await fs.exists('html/' + dir + '/' + id + '.html')) {