为什么hadoop2.6.0没有hadoop-client-2.6.0.jar
发布网友
发布时间:2022-04-29 22:52
我来回答
共1个回答
热心网友
时间:2022-04-12 13:08
在不使用eclipse情况使java程序在hadoop 2.2中运行的完整过程。整个过程中其实分为java程序的编译,生成jar包,运行测试。
这三个步骤运用的命令都比较简单,主要的还是如何找到hadoop 2.2提供给java程序用来编译的jar包。具体可以查看:
HADOOP_HOME/share/hadoop/httpfs/tomcat/webapps/webhdfs/WEB-INF/lib目录
下面会通过一个在hadoop中创建一个目录的JAVA例子来进行演示
具体代码如下:
package com.wan.demo;
import java.io.IOException;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class HADemo {
public static void main(String[] args) {
// TODO Auto-generated method stub
mkdir(args[0]);
}
public static void mkdir(String dir){
Configuration configuration=new Configuration();
FileSystem fs;
try {
fs = FileSystem.get(configuration);
fs.mkdirs(new Path(dir));
fs.close();
} catch (IOException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
}
}
把HADemo.java文件拷贝到linux环境中
配置HADOOP_HOME/bin到环境中,启动集群,进入HADemo.java文件目录中
注:下面的lib目录里面的文件由HADOOP_HOME/share/hadoop/httpfs/tomcat/webapps/ webhdfs/WEB-INF/lib目录中获取,下面做的目的是为了缩减命令长度
1.编译java
# mkdir class
#Javac -classpath .:lib/hadoop-common-2.2.0.jar:lib/hadoop-annotations-2.2.0.jar -d class HADemo.java
2.生成jar包
#jar -cvf hademo.jar -C class/ .
added manifest
adding: com/(in = 0) (out= 0)(stored 0%)
adding: com/wan/(in = 0) (out= 0)(stored 0%)
adding: com/wan/demo/(in = 0) (out= 0)(stored 0%)
adding: com/wan/demo/HADemo.class(in = 844) (out= 520)(deflated 38%)
3.测试运行
#hadoop jar hademo.jar com.wan.demo.HADemo /test
检测:
#hadoop fs -ls /
结束!
Linux命令sudo mv ./hadoop-2.6.0/ ./hadoop 中 ./是啥意思呢?直接sudo...
“.”表示当前目录,用作参数的时候,用与不用一样。只是在运行程序的时候,如果不加“.”,而环境变量中又没有设置,会找不到命令。
还在找storm proxy?
SmartProxy企业级海外住宅IP代理服务商,覆盖全球200+国家和地区,高匿稳定,动态住宅代理/静态住宅代理/账密提取,100%原生住宅IP,城市级定位,支持HTTP/HTTPS/SOCKS5协议,不限带宽,纯净高匿,网络集成更快捷,注册即送流量!Smartproxy代理...
Hadoop 官网下载安装包 hadoop官网安装包下载
进入hadoop安装包页面后,可以看到有 Parent Directory current/(当前发布的最新版本) hadoop-1.2.1/ (hadoop1的版本) hadoop-2.5.2/ (hadoop2的新版本) hadoop-2.6.0/ (hadoop2的新版本) stable/ (hadoop...
hdpclient安装包文件名
-ClouderaCDH。hadoop-client-2.6.0-cdh5.14.0+1666-1.cdh5.14.0.p0.34.el7.tar.gz`,其中,`cdh5.14.0`表示的是ClouderaCDH5.14版本,`el7`表示的是基于CentOS7(或者RedHatEnterpriseLinux7)的操作系统,该安装包是tar.gz格式。
hadoop 安装包的区别。在线等谢谢各位。
hadoop-2.6.0-src.tar.gz是源码压缩文件。可以用eclipse导入研究源码,或者Maven构建编译打包。hadoop-2.6.0.tar.gz是已经官方发布版压缩包,可以直接使用。不过官网下载的hadoop发布版本只适合x86环境,若要x64的则需要Maven重新构建。.mds 是描述文件,记录压缩包的MD5,SHA1等信息。
idea有maven插件吗?
首先是pom.xml,注释了一些东西,比如不用添加hbase-client和hbase-server,java中写MapReduce操作hbase需要这两个,scala写spark操作hbase不需要这两个,程序跑不起来,sc无法创建。一般来说,都是调用外部的settings.xml文件,这个时候就需要在window-preferences-maven-usersettings选择你本地的文件。Ecli...
安装这个spark-1.6.0-bin-hadoop2.6.tgz,hadoop版本是2.7的可以吗_百 ...
用hadoop-2.6.0版本的
怎样获得在yarn框架上运行jar包的执行结果
1、打开Spring Boot应用,通过Maven命令package命令将应用打成jar包。2、执行命令java -jar xx.jar启动Spring Boot应用,输入jsp页面对应的Url映射后,可以看到页面未找到。3、用解压缩软件将jar包打开,可以看到jar包中并没有对应的webapps目录,所以上面报了页面未找到错误。4、在pom文件的build节点下...
hadoop 2.6.4用什么版本的hive
2.单台升级datanode,观察升级前后的block数。备注:文件数和block数不是完全一样,hadoop1和hadoop2的计数方式不一样,可能相差2%左右。Yarn的升级Yarn的升级,它相对hdfs的升级,升级压力没有那么大,但是由于以前hive使用mapred,而现在直接使用yarn,所以兼容问题,就比hdfs多不少,所幸我们的任务基本是...
大数据 hadoop 要不要raid5
完全分布式:对于Hadoop,不同的系统会有不同的节点划分方式。 2.安装Hadoop (1.)获取Hadoop压缩包hadoop-2.6.0.tar.gz,下载后可以使用VMWare Tools通过共享文件夹,或者使用Xftp工具传到node1。进入node1 将压缩包解压到/home/hduser目录下,输入命令: #进入HOME目录即:“/home/hduser” cd ~ tar –zxvf hadoop...
安装hadoop丢失日志jar包该怎么解决
在运行Hadoop与HBase常出现某些jar包没有添加进工程,导致类找不到,下面对该问题做了一个统计分析,结果如下表所示:报错 相应缺失的包 java.lang.ClassNotFoundException: com.google.common.base.Preconditions; guava-11.0.2.jar java.lang.ClassNotFoundException: org.apache.commons.logging...