1

README.md

@@ -1,9 +1,15 @@
-## 使用说明
+# 文汇报光盘1938-1999
+
+光盘收录了1938年-1999年所有文稿共计1231692篇。13张光盘中包括扫描的图像和文本数据, setup.iso为安装程序（内含文本数据库），1-12文件夹为原来1-12号光碟。html.7z为爬虫爬取的文稿html页面的压缩包。
+
+
+## 光盘使用说明
 
 安装程序需要在windows98 简体中文版中打开
 进入系统后，插入setup.iso，安装时根据提示插入1-5号光盘；其他光盘在读取插图时使用。
 (建议使用VirtualBox虚拟机)
 
+
 ## 启动爬虫
 
 1. 安装ie6

whb.js

@@ -24,6 +24,8 @@ function getNext() {
   }
 }
 
+const max = 1231692;
+
 app.post('/upload', async (req, res) => {
   const body = req.body;
   const id = getId(body.document);
@@ -32,6 +34,10 @@ app.post('/upload', async (req, res) => {
     process.exit();
     return;
   }
+  if (id > max) {
+    process.exit();
+    return;
+  }
   console.log(id)
   const dir = Math.floor(id/1000).toString();
   if (!await fs.exists('html/' + dir + '/' +  id + '.html')) {