在云服务器上运行Python脚本的最简单方法是什么?

24

我有一个网络爬虫的Python脚本,需要运行数小时,无法在本地机器上完全运行。是否有便捷的方法将其部署到简单的Web服务器上?该脚本基本上将网页下载为文本文件。什么是最佳实现方式?谢谢!


2
也许你正在寻找这个 - Arnab Nandy
5个回答

9
由于您提到性能问题并且正在进行网络爬虫,首先尝试的是一个非常快速且易于使用的网络爬虫框架Scrapyscrapyd工具可以让您分发爬取 - 您可以在不同的服务器上运行多个scrapyd服务并在它们之间分配负载。详情请参见: 还有一个Scrapy Cloud服务:

Scrapy Cloud将高效的Scrapy开发环境与强大的完整功能的生产环境相结合,以部署和运行您的爬虫。这就像Scrapy的Heroku,尽管其他技术将在不久的将来得到支持。它在Scrapinghub平台的基础上运行,这意味着您的项目可以根据需要按比例扩展。


6
作为已经给出的解决方案的替代,我建议使用Heroku。您不仅可以轻松部署网站,还可以部署脚本来运行机器人。
基本账户是免费的,并且非常灵活。 这篇博客文章这个这个视频包含了如何使其工作的实际示例。

4
有多个地方可以实现这个目标。只需谷歌搜索“云中的Python”,您将会看到一些结果,例如https://www.pythonanywhere.com/
此外,还有一些云集成开发环境(IDE),它们本质上为您提供了一个免费的小型虚拟机,在其中您可以在基于Web的IDE中开发代码并在虚拟机中运行它。一个例子是http://www.c9.io

3
PythonAnywhere的开发人员在此,感谢提及! :-) 我还要补充一点,我们有许多客户使用我们来运行Scrapy。这种保持脚本运行的方式非常受欢迎:https://www.pythonanywhere.com/wiki/LongRunningTasks - Giles Thomas

3

在2021年,Replit.com使得在云端编写和运行Python非常方便。


我无法让我的环境在这个工作 :-/ 继续前进!! - Vikas Prasad

-1
如果您拥有Google电子邮件帐户,您就可以访问Google Drive和实用工具。选择"Colaboratory"(或先在更多选项中找到它)。这个"CoLab"本质上是您在Google Drive上的Python笔记本,可以完全访问您驱动器上的文件,也可以访问您的GitHub。因此,除了您的本地内容,您还可以编辑GitHub脚本。

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接