45得票8回答
在PHP中使用分块上传1GB文件

我有一个Web应用程序,可以接受最多4MB的文件上传。服务器端脚本是PHP,Web服务器是NGINX。许多用户要求大幅增加此限制,以允许上传视频等。 然而对于这个PHP问题似乎没有简单的解决方案。首先,在客户端,我正在寻找一些可以在传输期间分块文件的东西。SWFUpload似乎没有这样的功能...

45得票3回答
如何在后台线程高效地将大文件写入磁盘(Swift)

更新 我已经解决并移除了令人分心的错误。请阅读整篇文章,如有任何问题,请随意留言。 背景 我正在尝试使用Swift 2.0、GCD和完成处理程序将相对较大的文件(视频)写入iOS磁盘。我想知道是否有更有效的方法来执行此任务。该任务需要在不阻塞主UI的情况下完成,并使用完成逻辑,同时确保操...

43得票6回答
使用Python Iterparse处理大型XML文件

我需要在内存只有 2 GB 的计算机上编写一个 Python 解析器,能够处理一些非常大的文件(>2GB)。我想使用 lxml 中的 iterparse 来完成这个任务。 我的文件格式如下:<item> <title>Item 1</title> ...

43得票6回答
在Python中对大型文本文件进行字符串搜索 - 分析各种方法

这个问题已经被问了很多次。在阅读了答案后,我进行了一些快速分析来尝试之前提到的各种方法... 我有一个包含6百万行字符串(DMOZ项目的分类路径)的600 MB文件。 每行上的条目都是唯一的。 我想要一次加载该文件,并在数据中保持搜索以查找匹配项。 我尝试的三种...

41得票15回答
Java:读取一个巨大文件的最后n行

我想在Java中读取一个非常大的文件的最后n行,而不必将整个文件读入任何缓冲区或内存区域。 我查看了JDK API和Apache Commons I/O,并没有找到适合这个目的的方法。 我考虑使用UNIX中tail或less所使用的方法。我认为它们不会加载整个文件,然后显示文件的最后几行。...

40得票6回答
使用WebSocket进行大文件上传

我正在尝试使用WebSocket API上传大文件(至少500MB,最好能够上传几GB)。问题在于我无法想出如何编写“发送文件的这一部分,释放已使用的资源,然后重复”。我希望能够避免使用Flash/Silverlight等技术。 目前,我正在使用以下代码: function FileSli...

39得票8回答
使用Node.js编写大文件

我正在使用可写流在 Node.js 中编写一个大文件:var fs = require('fs'); var stream = fs.createWriteStream('someFile.txt', { flags : 'w' }); var lines; while (lines...

39得票9回答
如何逐行从大文件中读取分行JSON?

我正在尝试加载一个非常大(大小为2GB)的文件,其中包含用换行符分隔的JSON字符串。例如:{ "key11": value11, "key12": value12, } { "key21": value21, "key22": value22, } … 我现在...

37得票13回答
使用PHP进行大文件上传

我想允许我们的 PHP 应用程序上传非常大的文件(几百兆字节至8吉字节)。然而,这里面有一些问题。 浏览器: HTML 上传反馈很差,我们需要轮询上传进度(有点傻),或者根本不显示反馈信息 Flash 上传器在开始上传之前将整个文件放入内存中 服务器: PHP 强制我们设置 po...

33得票3回答
有没有好的方法绕过GitHub对文本文件100MB文件大小限制?

我有一个190 MB的纯文本文件,想在GitHub上跟踪。 这个文本文件是我们的文本转语音引擎的发音词典文件。我们经常添加和修改文本文件中的行,差异非常小,因此从这个意义上讲,它非常适合git。 然而,GitHub有严格的100 MB文件大小限制。我已经尝试了GitHub大型文件存储服务,...