为什么当行长度增加时,Perl的tr/\n//变得越来越慢?

13
perlfaq5中,有一个答案是我如何计算文件中的行数?。当前的答案建议使用sysreadtr/\n//。我想尝试一些其他方法来查看tr/\n//有多快,以及尝试处理不同平均行长的文件。我创建了一个基准测试来尝试各种方法。我在Mac OS X 10.5.8上运行这个程序,并在MacBook Air上使用Perl 5.10.1:

  • 调用wc(除了短行之外最快)
  • tr/\n//(下一个最快,除了长平均行长度)
  • s/\n//g(通常很快)
  • while( <$fh> ) { $count++ }(几乎总是很慢,除非tr///卡住了)
  • 1 while( <$fh> ); $.(非常快)

让我们忽略那个wc,即使加上所有IPC的东西也会得到一些吸引人的数字。

乍一看,当行长很短(比如100个字符)时,tr/\n//看起来非常好,但是它的性能会在行长变大(比如一行有1000个字符)时下降。行长越长,tr/\n//的表现就越差。我的基准测试有问题吗?还是内部发生了其他问题导致tr///性能下降?为什么s///没有类似的性能下降呢?

首先,看一下结果:

                         Rate very_long_lines-tr very_long_lines-$count very_long_lines-$. very_long_lines-s very_long_lines-wc
very_long_lines-tr     1.60/s                 --                   -10%               -12%              -39%               -72%
very_long_lines-$count 1.78/s                11%                     --                -2%              -32%               -69%
very_long_lines-$.     1.82/s                13%                     2%                 --              -31%               -68%
very_long_lines-s      2.64/s                64%                    48%                45%                --               -54%
very_long_lines-wc     5.67/s               253%                   218%               212%              115%                 --
                    Rate long_lines-tr long_lines-$count long_lines-$. long_lines-s long_lines-wc
long_lines-tr     9.56/s            --               -5%           -7%         -30%          -63%
long_lines-$count 10.0/s            5%                --           -2%         -27%          -61%
long_lines-$.     10.2/s            7%                2%            --         -25%          -60%
long_lines-s      13.6/s           43%               36%           33%           --          -47%
long_lines-wc     25.6/s          168%              156%          150%          88%            --
                     Rate short_lines-$count short_lines-s short_lines-$. short_lines-wc short_lines-tr
short_lines-$count 60.2/s                 --           -7%           -11%           -34%           -42%
short_lines-s      64.5/s                 7%            --            -5%           -30%           -38%
short_lines-$.     67.6/s                12%            5%             --           -26%           -35%
short_lines-wc     91.7/s                52%           42%            36%             --           -12%
short_lines-tr      104/s                73%           61%            54%            14%             --
                      Rate varied_lines-$count varied_lines-s varied_lines-$. varied_lines-tr varied_lines-wc
varied_lines-$count 48.8/s                  --            -6%             -8%            -29%            -36%
varied_lines-s      51.8/s                  6%             --             -2%            -24%            -32%
varied_lines-$.     52.9/s                  8%             2%              --            -23%            -30%
varied_lines-tr     68.5/s                 40%            32%             29%              --            -10%
varied_lines-wc     75.8/s                 55%            46%             43%             11%              --

以下是基准测试代码。虽然其中有控制代码,但速度非常快,因此我并不关注它。第一次运行时,基准测试会创建测试文件并打印有关其行长度的一些统计信息:

use Benchmark qw(cmpthese);
use Statistics::Descriptive;

my @files = create_files();

open my( $outfh ), '>', 'bench-out';

foreach my $file ( @files )
    {
    cmpthese(
        100, {
#               "$file-io-control" => sub { 
#                       open my( $fh ), '<', $file; 
#                   print "Control found 99999 lines\n";
#                       },
               "$file-\$count" => sub { 
                    open my( $fh ), '<', $file; 
                    my $count = 0;
                    while(<$fh>) { $count++ } 
                    print $outfh "\$count found $count lines\n";
                    },
               "$file-\$."     => sub { 
                    open my( $fh ), '<', $file; 
                    1 while(<$fh>); 
                    print $outfh "\$. found $. lines\n";
                    },
               "$file-tr"      => sub { 
                    open my( $fh ), '<', $file; 
                    my $lines = 0;
                    my $buffer;
                    while (sysread $fh, $buffer, 4096) {
                        $lines += ($buffer =~ tr/\n//);
                        }
                    print $outfh "tr found $lines lines \n";
                    },
               "$file-s"       => sub { 
                    open my( $fh ), '<', $file; 
                    my $lines = 0;
                    my $buffer;
                    while (sysread $fh, $buffer, 4096) {
                        $lines += ($buffer =~ s/\n//g);
                        }
                    print $outfh "s found $lines line\n";
                    },
               "$file-wc"       => sub { 
                    my $lines = `wc -l $file`;
                    chomp( $lines );
                    print $outfh "wc found $lines line\n";
                    },
                    }
           );   
     }

sub create_files
    {
            my @names;
    my @files = (
        [ qw( very_long_lines 10000  4000 5000 ) ],
        [ qw( long_lines   10000 700 800 ) ],
        [ qw( short_lines  10000  60  80 ) ],
        [ qw( varied_lines 10000  10 200 ) ],
        );

    foreach my $tuple ( @files )
        {
        push @names, $tuple->[0];
        next if -e $tuple->[0];
        my $stats = create_file( @$tuple );
        printf "%10s: %5.2f  %5.f \n", $tuple->[0], $stats->mean, sqrt( $stats->variance );
        }

    return @names;
    }


sub create_file
    {
    my( $name, $lines, $min, $max ) = @_;

    my $stats = Statistics::Descriptive::Full->new();

    open my( $fh ), '>', $name or die "Could not open $name: $!\n";

    foreach ( 1 .. $lines )
        {
        my $line_length = $min + int rand( $max - $min );
        $stats->add_data( $line_length );
        print $fh 'a' x $line_length, "\n";
        }

    return $stats;
    }

1
请问您能分享一下您的操作系统和Perl版本吗? - Gurunandan Bhat
1
OSX(10.5.8)Perl 5.10.1,我看到的结果与Brian的类似。不过,我也收到了关于“迭代次数太少以获得可靠计数”的重复警告,仅供参考。 - Telemachus
1
@brian:一台今年6月/7月的MacBookPro。虽然不是当前4GB RAM型号之一,但也不算太小。如果这很重要的话,它是2.26GHz Core2Duo,2 GB RAM,速度为1067MHz。这样的结果可能与文件系统有关(部分地)吗? - Telemachus
1
@Sneakyness:嗯?看看我的评论和其他人的回复。问题不仅限于一种机器类型。 - Telemachus
1
我突然想到 tr/// 基准测试可能有太多的变量。随着行数变得更长,我们不仅仅是在测试 tr/// 处理长字符串的能力;我们还在修改行长度和 sysread 缓冲区大小之间的相对关系。我对这个问题并不是很了解,所以也许这是一个无效的考虑。然而,如果问题是“tr/// 在处理长字符串时会变慢吗?”那么基准测试应该专注于这一点,而不涉及 IO 问题。 - FMc
显示剩余5条评论
3个回答

9

我在想我们一直在使用的基准测试是否有太多的变量:我们正在处理不同大小的数据文件,使用不同的行长度,并试图衡量 tr 相对于其竞争对手的速度 - 基于一个未经测试的假设,即 tr 是性能随着行长度变化而变化的方法。

此外,正如 Brian 在一些评论中指出的那样,我们正在向 tr 提供始终相同大小(4096 字节)的数据缓冲区。如果任何一种方法应该对行大小不敏感,那么应该是 tr

然后我想到了一个基准测试,保持数据文件的大小不变:行长度变化,但总字节数保持不变。结果表明:

  • tr 是最不敏感的方法,可以处理变化的行长度。由于所有三个测试的行长度(短、中、长)的总字节数 N 都是恒定的,这意味着 tr 在编辑给定的字符串时非常高效。即使短行数据文件需要进行更多的编辑,tr 方法也能够几乎与处理长行文件的速度一样快地处理数据文件。
  • 依赖于 <> 速度的方法随着行变长而加快,但增长速度逐渐减缓。这是有道理的:由于每次调用 <> 都需要一些工作,使用较短的行处理给定数量的字节应该会更慢(至少在测试范围内)。
  • s/// 方法也对行长度敏感。与 tr 类似,此方法通过编辑给定的字符串来工作。同样,较短的行长度意味着需要进行更多的编辑。显然,s/// 进行此类编辑的能力比 tr 要低效得多。

以下是在 Solaris 上使用 Perl 5.8.8 的结果:

#   ln = $.      <>, then check $.
#   nn = $n      <>, counting lines
#   tr = tr///   using sysread
#   ss = s///    using sysread

#   S = short lines  (50)
#   M = medium lines (500)
#   L = long lines   (5000)

       Rate nn-S
nn-S 1.66/s   --
ln-S 1.81/s   9%
ss-S 2.45/s  48%
nn-M 4.02/s 142%
ln-M 4.07/s 145%
ln-L 4.65/s 180%
nn-L 4.65/s 180%
ss-M 5.85/s 252%
ss-L 7.04/s 324%
tr-S 7.30/s 339%    # tr
tr-L 7.63/s 360%    # tr
tr-M 7.69/s 363%    # tr

在Windows ActiveState的Perl 5.10.0上的结果大致相似。

最后,是代码:

use strict;
use warnings;
use Set::CrossProduct;
use Benchmark qw(cmpthese);

# Args: file size (in million bytes)
#       N of benchmark iterations
#       true/false (whether to regenerate files)
#
# My results were run with 50 10 1
main(@ARGV);

sub main {
    my ($file_size, $benchmark_n, $regenerate) = @_;
    $file_size *= 1000000;
    my @file_names = create_files($file_size, $regenerate);
    my %methods = (
        ln => \&method_ln,  # $.
        nn => \&method_nn,  # $n
        tr => \&method_tr,  # tr///
        ss => \&method_ss,  # s///
    );
    my $combo_iter = Set::CrossProduct->new([ [keys %methods], \@file_names ]);
    open my $log_fh, '>', 'log.txt';
    my %benchmark_args = map {
        my ($m, $f) = @$_;
        "$m-$f" => sub { $methods{$m}->($f, $log_fh) }
    } $combo_iter->combinations;
    cmpthese($benchmark_n, \%benchmark_args);
    close $log_fh;
}

sub create_files {
    my ($file_size, $regenerate) = @_;
    my %line_lengths = (
        S =>    50,
        M =>   500,
        L =>  5000,
    );
    for my $f (keys %line_lengths){
        next if -f $f and not $regenerate;
        create_file($f, $line_lengths{$f}, $file_size);
    }
    return keys %line_lengths;
}

sub create_file {
    my ($file_name, $line_length, $file_size) = @_;
    my $n_lines = int($file_size / $line_length);
    warn "Generating $file_name with $n_lines lines\n";
    my $line = 'a' x ($line_length - 1);
    chop $line if $^O eq 'MSWin32';
    open(my $fh, '>', $file_name) or die $!;
    print $fh $line, "\n" for 1 .. $n_lines;
    close $fh;
}

sub method_nn {
    my ($data_file, $log_fh) = @_;
    open my $data_fh, '<', $data_file;
    my $n = 0;
    $n ++ while <$data_fh>;
    print $log_fh "$data_file \$n $n\n";
    close $data_fh;
}

sub method_ln {
    my ($data_file, $log_fh) = @_;
    open my $data_fh, '<', $data_file;
    1 while <$data_fh>;
    print $log_fh "$data_file \$. $.\n";
    close $data_fh;
}

sub method_tr {
    my ($data_file, $log_fh) = @_;
    open my $data_fh, '<', $data_file;
    my $n = 0;
    my $buffer;
    while (sysread $data_fh, $buffer, 4096) {
        $n += ($buffer =~ tr/\n//);
    }
    print $log_fh "$data_file tr $n\n";
    close $data_fh;
}

sub method_ss {
    my ($data_file, $log_fh) = @_;
    open my $data_fh, '<', $data_file;
    my $n = 0;
    my $buffer;
    while (sysread $data_fh, $buffer, 4096) {
        $n += ($buffer =~ s/\n//g);
    }
    print $log_fh "$data_file s/ $n\n";
    close $data_fh;
}
回应Brad的评论更新。 我尝试了所有三种变体,它们的行为基本上像s/\n//g -- 对于具有较短行的数据文件速度较慢(还要补充一点,s/(\n)/$1/甚至比其他两个更慢)。有趣的是,m/\n/g的速度基本上与s/\n//g相同,这表明正则表达式方法(包括s///m//)的缓慢并不直接取决于编辑字符串的问题。

我认为这可能非常接近正在发生的事情。当我有更多的空闲时间时,我想调整一些更多的输入来解开一些变量。例如,只需使用不同数量的替换检查tr///。 - brian d foy
@brian 我很感兴趣了解你的发现。从某种意义上说,我的基准测试(tr-Str-Mtr-L)已经测试了你所提出的内容,如果我理解得正确的话。这三个基准测试处理相同数量的字节,但是tr-S进行的编辑次数比tr-L多100倍;尽管如此,tr-S几乎以同样快的速度处理文件。 - FMc

2

我还发现随着行长度的增加,tr/// 的速度相对较慢,尽管影响不是那么显著。这些结果来自于 Windows 7 x64 上的 ActivePerl 5.10.1(32位)。当迭代次数为100时,我也收到了“可靠计数的迭代次数太少”的警告,所以我将迭代次数增加到了500。

        VL: 4501.06    288
        LO: 749.25     29
        SH: 69.38      6
        VA: 104.66     55
            Rate VL-$count     VL-$.     VL-tr      VL-s     VL-wc
VL-$count 2.82/s        --       -0%      -52%      -56%      -99%
VL-$.     2.83/s        0%        --      -51%      -56%      -99%
VL-tr     5.83/s      107%      106%        --      -10%      -99%
VL-s      6.45/s      129%      128%       11%        --      -99%
VL-wc      501/s    17655%    17602%     8490%     7656%        --
            Rate LO-$count     LO-$.      LO-s     LO-tr     LO-wc
LO-$count 16.5/s        --       -1%      -50%      -51%      -97%
LO-$.     16.8/s        1%        --      -50%      -51%      -97%
LO-s      33.2/s      101%       98%        --       -3%      -94%
LO-tr     34.1/s      106%      103%        3%        --      -94%
LO-wc      583/s     3424%     3374%     1655%     1609%        --
            Rate SH-$count     SH-$.      SH-s     SH-tr     SH-wc
SH-$count  120/s        --       -7%      -31%      -67%      -81%
SH-$.      129/s        7%        --      -26%      -65%      -80%
SH-s       174/s       45%       35%        --      -52%      -73%
SH-tr      364/s      202%      182%      109%        --      -43%
SH-wc      642/s      433%      397%      269%       76%        --
            Rate VA-$count     VA-$.      VA-s     VA-tr     VA-wc
VA-$count 92.6/s        --       -5%      -36%      -63%      -79%
VA-$.     97.4/s        5%        --      -33%      -61%      -78%
VA-s       146/s       57%       50%        --      -42%      -67%
VA-tr      252/s      172%      159%       73%        --      -43%
VA-wc      439/s      374%      351%      201%       74%        --
编辑:我做了一项修订后的基准测试,以比较不同行长度的速率。它清楚地显示出tr///在短行中具有很大的优势,但随着行数越来越长,这种优势迅速消失。至于为什么会发生这种情况,我只能推测tr///是针对短字符串进行优化的。

行计数速率比较 http://img69.imageshack.us/img69/6250/linecount.th.png


请记住,tr///应该在相同大小的字符串上操作,因为它从sysread以4096字节块的方式获取输入,只是该字符串中的行具有不同的长度。 - brian d foy

-1

长行大约比短行大65倍,您的数字表明tr/\n//运行速度正好慢65倍。这是预期的。

wc显然对长行的扩展性更好。我不太清楚为什么;也许是因为它被调整为只计算换行符,特别是当您使用-l选项时。


1
我本来以为一切都会变慢,但实际上并没有。在 tr 情况下,行长度不应该真的有影响,因为它会按照 4096 字节的块读取,并且仍然需要检查整个字符串。请解释其他结果。 - brian d foy
由于你在写入文件后立即读取它,因此在上述计时中,I / O 应该基本无关紧要。你必须检查整个字符串的事实正是性能应该与行长度成反比的原因(假设图表上“速率 (#/sec)”中的“#”是指行而不是字节)。 - Marcelo Cantos
@Marcelo:不,速率是指子程序每秒运行的次数,也就是文件换行符被计算的次数。但要记住,tr/// 函数几乎总是检查 4096 个字符的块,所以它不应该关心行长度。 - brian d foy

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接