Hadoop用于和Map Reduce作业交互的命令

用法:hadoop job [GENERIC_OPTIONS] [-submit <job-file>] | [-status <job-id>] | [-counter <job-id> <group-name> <counter-name>] | [-kill <job-id>] | [-events <job-id> <from-event-#> <#-of-events>] | [-history [all] <jobOutputDir>] | [-list [all]] | [-kill-task <task-id>] | [-fail-task <task-id>]

命令选项描述

-submit<job-file>提交作业

-status<job-id>打印map和reduce完成百分比和所有计数器。

-counter<job-id><group-name><counter-name>打印计数器的值。

-kill<job-id>杀死指定作业。

-events<job-id><from-event-#><#-of-events>打印给定范围内jobtracker接收到的事件细节。

-history[all]<jobOutputDir>-history<jobOutputDir>打印作业的细节、失败及被杀死原因的细节。更多的关于一个作业的细节比如:成功的任务,做过的任务尝试等信息可以通过指定[all]选项查看。

-list[all]-listall显示所有作业。-list只显示将要完成的作业。

-kill-task<task-id>杀死任务。被杀死的任务不会不利于失败尝试。

-fail-task <task-id> 使任务失败。被失败的任务会对失败尝试不利。

基本命令:

1、列出所有Hadoop Shell支持的命令

$bin/hadoopfs-help

2、显示关于某个命令的详细信息

$ bin/hadoop fs -help command-name

3、递归地拷贝文件或目录

$hadoopdistcp<srcurl><desturl>

srcurl源Url

desturl目标Url

4、运行HDFS文件系统检查工具(fscktools)

用法:hadoopfsck[GENERIC_OPTIONS]<path>[-move|-delete|-openforwrite][-files[-blocks[-locations|-racks]]]

命令选项描述

<path>检查的起始目录。

-move移动受损文件到/lost+found

-delete删除受损文件。

-openforwrite打印出写打开的文件。

-files打印出正被检查的文件。

-blocks打印出块信息报告。

-locations打印出每个块的位置信息。

-racks打印出data-node的网络拓扑结构

相关推荐