我编写了一个从HDFS并行获取数据的脚本,然后在一个for循环中等待这些子进程,但有时返回 pid is not a child of this shell
错误,有时却能正常工作。这让人感到困惑。我使用 jobs -l
命令显示所有在后台运行的任务,我确信这些pid是shell进程的子进程,并且使用 ps aux
确保这些pid没有被分配给其他进程。以下是我的脚本。
PID=()
FILE=()
let serial=0
while read index_tar
do
echo $index_tar | grep index > /dev/null 2>&1
if [[ $? -ne 0 ]]
then
continue
fi
suffix=`printf '%03d' $serial`
mkdir input/output_$suffix
$HADOOP_HOME/bin/hadoop fs -cat $index_tar | tar zxf - -C input/output_$suffix \
&& mv input/output_$suffix/index_* input/output_$suffix/index &
PID[$serial]=$!
FILE[$serial]=$index_tar
let serial++
done < file.list
for((i=0;i<$serial;i++))
do
wait ${PID[$i]}
if [[ $? -ne 0 ]]
then
LOG "get ${FILE[$i]} failed, PID:${PID[$i]}"
exit -1
else
LOG "get ${FILE[$i]} success, PID:${PID[$i]}"
fi
done