fread与grepl的结合使用

Question

我有一份数据（125000行，大约20MB），其中某些包含特定字符串的行需要删除，并且在读取过程中需要选择一些列。

首先，我发现grepl函数不能正常工作，因为fread将数据视为一个列，这也在这个问题中有所说明。

可以在这里找到示例数据（按照@akrun的建议），数据的标题如下：

head(sum_data)

TRIAL :            1        3331        9091
  TRIAL :            2  1384786531   278055555
    2     0.10     0.000E+00 -0.0047 -0.0168 -0.9938    -0.0087 -0.0105 -0.9709     0.0035  0.0079 -0.9754     0.0081  0.0023  0.9997      -0.135324E-09    0.278754E-01
    2     0.20     0.000E+00 -0.0121  0.0002 -0.9898    -0.0364 -0.0027 -0.9925    -0.0242 -0.0050 -0.9929     0.0029 -0.0023  0.9998      -0.133521E-09    0.425567E-01
    2     0.30     0.000E+00  0.0193 -0.0068 -0.9884     0.0040  0.0139 -0.9782    -0.0158  0.0150 -0.9814     0.0054 -0.0008  0.9997      -0.134103E-09    0.255356E-01
    2     0.40     0.000E+00 -0.0157  0.0183 -0.9879    -0.0315 -0.0311 -0.9908    -0.0314 -0.0160 -0.9929     0.0040  0.0010  0.9998      -0.134819E-09    0.257300E-01
    2     0.50     0.000E+00 -0.0402  0.0300 -0.9832    -0.0093  0.0269 -0.9781    -0.0326  0.0247 -0.9802     0.0044 -0.0010  0.9997      -0.131515E-09    0.440350E-01

我试图使用 fread 读取数据，并使用 grepl 删除了一些行；

files <-dir(pattern = "*sum.txt",full.names = FALSE)
library(data.table)

fread_files <- function(files){
sum_data_read <- fread(files,skip=2, sep="\t", ) #seperation is tab.
df_grep <- sum_vgm_read [!grepl("TRI",sum_vgm_read$V1),] # for removing the lines that contain "TRIAL" letter in V1 column. But so far there is no V1 column is recognized!!

df <- bind_rows(df_grep)  #binding rows after removing 
write.table(as.data.table(df),file = gsub("(.*)(\\..*)", "\\1_new\\2", files),row.names = FALSE,col.names = TRUE) 
}

最后是lapply函数。

lapply(files, fread_files)

当我执行此操作时，仅会创建一个数据行作为输出，这意味着某些事情正在发生，但我不知道是什么。提前感谢您的帮助！

- Alexander

---

你只是想读取文件，删除行并重写文件吗？ 还是你想要一个数据表或数据框进行操作？ - cderv

@Titolondon 谢谢你的提问。我想要写一个新文件而不是重写它们，并且希望有一个带有列名的数据框架和更快的读取处理，因为我有很多文件。 - Alexander

你尝试使用我下面的答案了吗？它似乎可以做到你想要的： 1. 读取文件 2. 删除行 3. 将没有 "TRIAL" 行的内容写入新文件 还有什么需要补充的吗？另外，顺便说一下，在你的示例数据中我没有看到列名。你想要哪些列名？ - cderv

Answer 1

首先，我发现grepl函数由于fread将数据作为一列处理而无法正常工作，这也在这个问题中说明。

但是该问题的被接受答案表明该问题已在v1.9.6中修复。您正在使用哪个版本？因此我们要求您请提前声明版本号，以节省回答时间。

这是一个很好的示例文件，问题也很好。

我不会试图重新发明轮子，因为像这样的操作早已被实现为命令行工具，您可以直接与fread一起使用。优点是您不会耗尽R内存，您可以将过滤留给命令工具，这样可以更加高效。例如，如果您将所有行作为字符串加载到R中，这些字符串将被缓存在R的全局字符串缓存中（至少是临时的）。在外部 R 过滤将先节省这种成本。

我下载了您的示例文件并测试了以下代码，它是有效的。

> fread("grep -v TRIAL sum_data.txt")
         V1   V2 V3      V4      V5      V6      V7      V8      V9     V10     V11     V12    V13     V14    V15          V16       V17
     1:   2  0.1  0 -0.0047 -0.0168 -0.9938 -0.0087 -0.0105 -0.9709  0.0035  0.0079 -0.9754 0.0081  0.0023 0.9997 -1.35324e-10 0.0278754
     2:   2  0.2  0 -0.0121  0.0002 -0.9898 -0.0364 -0.0027 -0.9925 -0.0242 -0.0050 -0.9929 0.0029 -0.0023 0.9998 -1.33521e-10 0.0425567
     3:   2  0.3  0  0.0193 -0.0068 -0.9884  0.0040  0.0139 -0.9782 -0.0158  0.0150 -0.9814 0.0054 -0.0008 0.9997 -1.34103e-10 0.0255356
     4:   2  0.4  0 -0.0157  0.0183 -0.9879 -0.0315 -0.0311 -0.9908 -0.0314 -0.0160 -0.9929 0.0040  0.0010 0.9998 -1.34819e-10 0.0257300
     5:   2  0.5  0 -0.0402  0.0300 -0.9832 -0.0093  0.0269 -0.9781 -0.0326  0.0247 -0.9802 0.0044 -0.0010 0.9997 -1.31515e-10 0.0440350
    ---                                                      

124247: 250 49.5  0 -0.0040  0.0141  0.9802 -0.0152  0.0203 -0.9877 -0.0015  0.0123 -0.9901 0.0069  0.0003 0.9997 -1.30220e-10 0.0213215
124248: 250 49.6  0 -0.0006  0.0284  0.9819  0.0021  0.0248 -0.9920  0.0264  0.0408 -0.9919 0.0028 -0.0028 0.9997 -1.30295e-10 0.0284142
124249: 250 49.7  0  0.0378  0.0305  0.9779 -0.0261  0.0232 -0.9897 -0.0236  0.0137 -0.9928 0.0102 -0.0023 0.9997 -1.29890e-10 0.0410760
124250: 250 49.8  0  0.0569 -0.0203  0.9800 -0.0028 -0.0009 -0.9906 -0.0139 -0.0169 -0.9918 0.0039 -0.0017 0.9997 -1.31555e-10 0.0513482
124251: 250 49.9  0  0.0234 -0.0358  0.9840 -0.0340  0.0114 -0.9873 -0.0255  0.0134 -0.9888 0.0006  0.0009 0.9997 -1.30862e-10 0.0334976
>

-v 参数使得 grep 返回所有不包含字符串 TRIAL 的行。考虑到多年来已经有许多高质量的工程师关注过命令行工具 grep，它很可能是最快的，并且正确、方便、有很好的在线文档、易于学习和搜索特定任务的解决方案。如果您需要执行更复杂的字符串过滤（例如，行首或行尾的字符串等），那么 grep 语法非常强大。学习它的语法是一项可转移的技能，适用于其他语言和环境。

要进一步了解在fread中使用命令行工具的示例，可以查看文章Convenience features of fread。请注意，“在Windows上，我们建议使用Cygwin（运行一个 .exe 文件进行安装），其中包括命令行工具，如 grep”。

- Matt Dowle

---

你的解决方案很优雅，感谢你对我的问题的赞赏。然而，当我尝试测试fread("grep -v TRIAL sum_data.txt")时，它显示“grep”不是内部或外部命令、可执行程序或批处理文件。 此外：警告消息： 1：运行命令'C:\Windows\system32\cmd.exe /c (grep -v TRIAL sum_data.txt) - Alexander

@Alexander 在Windows上，安装Cygwin应该可以解决问题。 - Matt Dowle

@Alexander 你可以使用 fread 的 select= 参数按名称或编号选择列。请参阅 ?fread 以获取所有灵活的参数；例如：fread("grep -v TRIAL sum_data.txt", select=c(1,7,10))。 - Matt Dowle

谢谢你的及时回复。到目前为止，我在安装Cygwin方面遇到了一些问题。但是希望它很快就能解决。感谢你的答案和时间！ - Alexander

还有一件事，如果我有一个包含20个文件的列表怎么办。当我像我在问题中写的那样用files替换sum_data.txt时，我会得到一个错误：grep: sumavgm: No such file or directory但是对于单个文件，代码可以完美地工作。 - Alexander

Answer 2

为了读取文件并根据字符串条件删除行，您可以使用readLines函数，并过滤结果。

我使用stringr包进行字符串操作。

library(stringr)
# Read your file by lines
DT <- readLines("sum_data") 
length(DT)
#> [1] 124501
# detect which lines contains trial
trial_lines <- str_detect(DT, "TRI")
head(trial_lines)
#> [1]  TRUE  TRUE FALSE FALSE FALSE FALSE
# Remove those lines 
DT <- DT[!trial_lines]
length(DT)
#> [1] 124251
# Rewrite your file by line
writeLines(DT, "new_file")

如果您遇到性能问题，可以尝试使用readr包中的read_lines而不是基本的readLines。

- cderv

---

我尝试了你的脚本，它可以工作！但是，在删除“TRIAL”行后，如何选择一些特定的列呢？比如说，在编写行时选择“V1”，“V7”和“V10”？ - Alexander