由于权限问题,在Cygwin上无法启动任务跟踪器。

3
我已经在Windows 7的Cygwin环境下安装了Hadoop 1.1.1。DFS组件都可以正常启动(无论是使用start-dfs.sh还是start-all.sh),JobTracker也可以启动(使用start mapred.sh),但是TaskTracker无法启动,并出现与任务跟踪器路径权限有关的错误(无法设置0755)。我在Problem starting tasktracker in hadoop under windows看到了类似的问题报告,但没有找到任何解决方案或指导如何解决它。我尝试了许多网站上的解决方案,但都徒劳无功。

以下是日志输出:

     2013-01-02 15:51:31,836 INFO org.apache.hadoop.mapred.TaskTracker: Starting tasktracker with owner as 120173
     2013-01-02 15:51:31,836 INFO org.apache.hadoop.mapred.TaskTracker: Good mapred local directories are: /tmp/hadoop-120173/mapred/local
     2013-01-02 15:51:31,852 ERROR org.apache.hadoop.mapred.TaskTracker: Can not start task tracker because java.io.IOException: Failed to set permissions of path: \tmp\hadoop-120173\mapred\local\taskTracker to 0755
at org.apache.hadoop.fs.FileUtil.checkReturnValue(FileUtil.java:689)
at org.apache.hadoop.fs.FileUtil.setPermission(FileUtil.java:670)
at org.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:509)
at org.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:344)
at org.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:189)
at org.apache.hadoop.mapred.TaskTracker.initialize(TaskTracker.java:810)
at org.apache.hadoop.mapred.TaskTracker.<init>(TaskTracker.java:1557)
at org.apache.hadoop.mapred.TaskTracker.main(TaskTracker.java:3893)

    2013-01-02 15:51:31,852 INFO org.apache.hadoop.mapred.TaskTracker: SHUTDOWN_MSG: 

我甚至尝试手动设置该目录的权限,然后运行任务跟踪器,但仍然失败了。


Dinkar,你找到这个问题的解决方案了吗?我也遇到了同样的问题。 - Aashu
2个回答

0

-1
尝试在hdfs-site.xml中更改默认目录,使得Hadoop为dfs创建的目录是Cygwin目录的子目录。像这样更改hdfs-site.xml:

<configuration>
 <property>
    <name>dfs.name.dir</name>
    <value>c:/cygwin/usr/somedir/dfs/name</value>
 </property>
 <property>
    <name>dfs.data.dir</name>
    <value>c:/cygwin/usr/somedir/dfs/data</value>
 </property>
</configuration>

Amar谢谢。TaskTracker失败的文件夹仅在cygwin下..它是D:/cygwin/tmp/hadoop-120173/mapred/local/taskTracker..但这个错误似乎与dfs名称和数据文件夹无关。我将尝试在hdfs-site中明确放置这些条目并尝试..会在这里发布。 - Dinkar Gupta
@Dinkar Gupta,这个解决方案对您有用吗?我也遇到了同样的问题。 - blue-sky

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接