Windows环境下Python3安装Pyspider

执行命令：

pip3 install pyspider

Windows 下可能会出现这样的错误提示：Command "python setup.py egg_info" failed with error code 1 in /tmp/pip-build-vXo1W3/pycurl

这个是 PyCurl 安装错误，一般会出现在 Windows 下，需要安装 PyCurl 库，下载链接为：http://www.lfd.uci.edu/~gohlke/pythonlibs/#pycurl，找到对应 Python 版本然后下载相应的 Wheel 文件。

如 Windows 64 位，Python3.6 则下载 pycurl?7.43.0?cp36?cp36m?win_amd64.whl，随后用 Pip 安装即可，命令如下：

pip3 install pycurl?7.43.0?cp37?cp37m?win_amd64.whl

这里的pycurl-7.43.0-cp37m-win_amd64.whl是下载下来的文件路径

 

执行命令验证：

pyspider all

出现错误：SyntaxError: invalid syntax

原因是：python3.7中async是关键字

解决办法：将这个关键字替换掉。主要有两个文件：~\Lib\site-packages\pyspider\run.py 和 ~\Lib\site-packages\pyspider\fetcher\tornado_fetcher.py
在替换是要注意：只替换名为async 的变量或参数名。不要图省事选择“全部替换”
替换保存后再次运行“pyspider all”
这时spider只启动到“scheduler xmlrpc listening on 127.0.0.1:23333”就停止了
继续替换PYTHON_HOME\Lib\site-packages\pyspider\webui\app.py中的async
再次启动
又报错：ValueError: Invalid configuration:
-Deprecated option ‘domaincontroller’: use ‘http_authenticator.domain_controller’ instead.
解决办法：打开PYTHON_HOME\Lib\site-packages\pyspider\webui\webdav.py文件，修改第209行
把 ‘domaincontroller’: NeedAuthController(app)
修改为：
‘http_authenticator’:{
‘HTTPAuthenticator’:NeedAuthController(app),
},
保存文件
再次运行，成功

这是访问http://localhost:5000就能打开pyspider的图形界面了

 

参考：https://blog.csdn.net/weixin_41698864/article/details/89444910

　　　https://germey.gitbooks.io/python3webspider/content/1.8.1-PySpider%E7%9A%84%E5%AE%89%E8%A3%85.html

原文链接:https://www.cnblogs.com/AthosMilo/p/11205454.html
如有疑问请与原作者联系

标签：

版权申明：本站文章部分自网络，如有侵权，请联系：west999com@outlook.com
特别注意：本站所有转载文章言论不代表本站观点，本站所提供的摄影照片，插画，设计作品，如需使用，请与原作者联系，版权归原作者所有