Wget下载队列脚本

3

这个想法是当wget正在下载某些内容时,我可以添加另一个URL,该URL将在当前下载完成后被下载。我只想同时下载一个文件。我编写了这个脚本。

#!/bin/bash

test=/tmp/wget-download-link.txt

echo -n "$test" | while IFS= read -N 1 a; do

    wget -o /tmp/wget.log -P /mnt/usb -i /tmp/wget-download-link.txt

    if [[ "$a" == $'\n' ]] ; then
        wget -nc -o /tmp/wget.log -P /mnt/usb -i /tmp/wget-download-link.txt
    fi

    #printf "$a"
    echo download finished

done

该脚本会检查是否有新的URL地址,如果有,它会重新运行wget。问题在于该脚本会不断循环下载相同的文件,并在已经存在时重命名它们。如何让wget在wget-download-link.txt文件中有新的URL时重新运行,但当文件已经存在时停止? @msturdy我运行了您的脚本,但wget会重新下载并重命名已经存在的文件,我的脚本:
#!/bin/bash

test=/tmp/wget-download-link.txt
l=$(wc -l $test)

tail -n $l -f $test | while read url; do
    wget -o /tmp/wget.log -P /mnt/usb -i /tmp/wget-download-link.txt
done

我的 wget-download-link.txt 文件:

http://media2.giga.de/2014/11/angel-beats-kanade.jpg
http://juanestebanrojas.com/wp-content/uploads/2014/06/angel-beats-wallpapers-4.jpg
http://images5.fanpop.com/image/photos/30100000/Angel-Beats-new-life-angel-beats-30142329-2560-909.jpg
http://kristenhazelkannon.files.wordpress.com/2013/06/angelbeats2.jpg

下载的文件:

angel-beats-wallpapers-4.jpg
angel-beats-wallpapers-4.jpg.1
Angel-Beats-new-life-angel-beats-30142329-2560-909.jpg.1
Angel-Beats-new-life-angel-beats-30142329-2560-909.jpg
angel-beats-kanade.jpg.2
angel-beats-kanade.jpg.1
angel-beats-kanade.jpg
angelbeats2.jpg

脚本将继续运行,并将文件重命名为.1 .2 .3等。
1个回答

1
已解决,使用此方法。
while [ true ] ; do
    urlfile=$( ls /root/wget/wget-download-link.txt | head -n 1 )
    dir=$( cat /root/wget/wget-dir.txt )
    if [ "$urlfile" = "" ] ; then
        sleep 180
        continue
    fi

    url=$( head -n 1 $urlfile )
    if [ "$url" = "" ] ; then
        mv $urlfile $urlfile.invalid
        continue
    fi

    mv $urlfile $urlfile.busy
    wget $url -P $dir -o /www/wget.log -c -t 100 -nc
    mv $urlfile.busy $urlfile.done
done

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接