README.md
CHANGED
@@ -1,9 +1,15 @@
|
|
1 |
-
|
|
|
|
|
|
|
|
|
|
|
2 |
|
3 |
安装程序需要在windows98 简体中文版中打开
|
4 |
进入系统后,插入setup.iso,安装时根据提示插入1-5号光盘;其他光盘在读取插图时使用。
|
5 |
(建议使用VirtualBox虚拟机)
|
6 |
|
|
|
7 |
## 启动爬虫
|
8 |
|
9 |
1. 安装ie6
|
|
|
1 |
+
# 文汇报光盘1938-1999
|
2 |
+
|
3 |
+
光盘收录了1938年-1999年所有文稿共计1231692篇。13张光盘中包括扫描的图像和文本数据, setup.iso为安装程序(内含文本数据库),1-12文件夹为原来1-12号光碟。html.7z为爬虫爬取的文稿html页面的压缩包。
|
4 |
+
|
5 |
+
|
6 |
+
## 光盘使用说明
|
7 |
|
8 |
安装程序需要在windows98 简体中文版中打开
|
9 |
进入系统后,插入setup.iso,安装时根据提示插入1-5号光盘;其他光盘在读取插图时使用。
|
10 |
(建议使用VirtualBox虚拟机)
|
11 |
|
12 |
+
|
13 |
## 启动爬虫
|
14 |
|
15 |
1. 安装ie6
|
whb.js
CHANGED
@@ -24,6 +24,8 @@ function getNext() {
|
|
24 |
}
|
25 |
}
|
26 |
|
|
|
|
|
27 |
app.post('/upload', async (req, res) => {
|
28 |
const body = req.body;
|
29 |
const id = getId(body.document);
|
@@ -32,6 +34,10 @@ app.post('/upload', async (req, res) => {
|
|
32 |
process.exit();
|
33 |
return;
|
34 |
}
|
|
|
|
|
|
|
|
|
35 |
console.log(id)
|
36 |
const dir = Math.floor(id/1000).toString();
|
37 |
if (!await fs.exists('html/' + dir + '/' + id + '.html')) {
|
|
|
24 |
}
|
25 |
}
|
26 |
|
27 |
+
const max = 1231692;
|
28 |
+
|
29 |
app.post('/upload', async (req, res) => {
|
30 |
const body = req.body;
|
31 |
const id = getId(body.document);
|
|
|
34 |
process.exit();
|
35 |
return;
|
36 |
}
|
37 |
+
if (id > max) {
|
38 |
+
process.exit();
|
39 |
+
return;
|
40 |
+
}
|
41 |
console.log(id)
|
42 |
const dir = Math.floor(id/1000).toString();
|
43 |
if (!await fs.exists('html/' + dir + '/' + id + '.html')) {
|