semvec/pypi-packages huggingface dataset:
simple-proxy-pool 0.1.1
simple proxy pool + proxy validation
License: MIT License
Keywords: machine translation,free,scraping

# simple-proxy-pool

简单IP代理池 simple_pp 是个 异步并发IP代理验证工具，速度很快，一千个代理半分钟左右可完成。

### 安装

```pip install -U simple-proxy-pool```

或下载 repo (e.g., ```git clone https://github.com/ffreemt/simple-proxy-pool.git``` 换到 simple-proxy-pool目录执行
```
python install -r requirements.txt
python setup.py develop
```

### 代理验证原理

通过IP代理访问 www.baidu.com, 能成功获取百度返回的头则代理有效。再检查头里面是否含'via', 不含'via'即为匿名代理。参考 aio_headers.py。

### 用法

#### 命令行

##### 简单用法
```python -m simple_pp```

simple_pp 会试着以各种方式搜集到不少于 200 个代理，验证后将有效代理输出到屏幕上。

##### 普通用法

用户可以提供自己的代理：直接将自由格式的代理贴在命令行后面，或提供含自由格式代理的文件名贴在命令行后面，或在运行 `python -m simple_pp` 前将代理拷入系统剪贴板。

```python -m simple_pp```

贴入需验证的IP代理（格式 ip:端口, 以空格、回车非数字字母或中文隔开均可）。或：

```python -m simple_pp file1 file2 ...```

文件内含以上格式的IP代理

也可以用pipe，例如
```
curl "https://www.freeip.top/?page=1" | python -m simple_pp
```

如果只想验证代理可加上 `-c` 开关，例如验证本地 8889、8080和80端口

```
python -m simple_pp -c 127.0.0.1 8889 127.0.0.1 8080 127.0.0.1
```

得到的输出为
<pre>
Time elapsed: 1.075 s
         验证中……
Time elapsed: 1.075 s
 代理                   源      有效    匿名    响应时间
[('127.0.0.1:8889', 'user', True, False, 0.71)]
['total:', 1]
</pre>
或运行
```
python -m simple_pp -c 127.0.0.1 127.0.0.1:8889 127.0.0.1:8080
```

#### 高级用法

显示详细用法

```python -m simple_pp -h```

给定代理数目

```python -m simple_pp -p 500```

只显示有效匿名代理

```python -m simple_pp -a```

给定代理数目、只显示有效匿名代理

```python -m simple_pp -p 800 -a```

#### python 程序内调用
```
from simple_pp import simple_pp
from pprint import pprint

ip_list = [ip1, ip2, ...]
res = simple_pp(ip_list)
pprint(res)
```

输出 res 里格式为: res[0] = ip_list[0] +（是否有效，是否匿名，响应时间秒）

可参看__main__.py 或 tests 里面的文件。有疑问或反馈可发 Issues。

例如
```
import asyncio
import httpx
from pprint import pprint
from simple_pp import simple_pp

pprint(simple_pp(['113.53.230.167:80', '36.25.243.51:80']))
```
输出为:
<pre>Time elapsed: 1.329 s
[('36.25.243.51:80', True, True, 0.61),
 ('113.53.230.167:80',
  'Cannot connect to host 113.53.230.167:80 ssl:default [Connect call failed '
  "('113.53.230.167', 80)]",
  False,
  1.33)]</pre>
既是说，第一个代理 113.53.230.167:80 无效，第二个代理 36.25.243.51:80 为匿名代理

也可以直接将网页结果送给 simple_pp, 例如
```import re
import asyncio
import httpx
from pprint import pprint
from simple_pp import simple_pp

arun = lambda x: asyncio.get_event_loop().run_until_complete(x)
_ = [elm for elm in simple_pp([':'.join(elm) if elm[1] else elm[0] for elm in re.findall(r'(?:https?://)?(\d{1,3}(?:\.\d{1,3}){3})(?:[\s\t:\'",]+(\d{1,4}))?', arun(httpx.get('https://www.freeip.top/?page=1')).text)]) if elm[-3] is True]
pprint(_)
# 可能拿到将近 10 个代理
# 或
_ = [elm for elm in simple_pp(arun(httpx.get('https://www.freeip.top/?page=1')).text) if elm[-3] is True]
pprint(_)
# ditto
```

### 鸣谢

* 用了 jhao 的 proxypool 项目里几个文件。感谢jhao开源。