hdfs的实验总结_实验2-熟悉常用的HDFS操作.doc

本文档下载自 文库下载网,

/doc/d52aebffbb0d4a7302768e9951e79b896802689c.html

实验2-熟悉常用的HDFS操作

实验2熟悉常用的HDFS操作

1实验目的

1. 理解HDFS在Hadoop体系结构中的角色;

2. 熟练使用HDFS操作常用的Shell命令;

3. 熟悉HDFS操作常用的Java API。

2实验平台

操作系统:Linux

Hadoop版本:2.6.0或以上版本

JDK版本:1.6或以上版本

Java IDE:Eclipse

3实验内容和要求

1.编程实现以下指定功能,并利用Hadoop提供的Shell命令完成相同任务:

(1)向HDFS中上传任意文本文件,如果指定的文件在HDFS中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件;

[此处图片未下载成功]

[此处图片未下载成功]

[此处图片未下载成功]

(2)从HDFS中下载指定文件,如果本地文件与要下载的文件名称相同,则自动对下载的文件重命名;

[此处图片未下载成功]

[此处图片未下载成功]

(3)将HDFS中指定文件的内容输出到终端中;

[此处图片未下载成功]

[此处图片未下载成功]

(4)显示HDFS中指定的文件的读写权限、大小、创建时间、路径等信息;

[此处图片未下载成功]

[此处图片未下载成功]

(5)给定HDFS中某一个目录,输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息,如果该文件是目录,则递归输出该目录下所有文件相关信息;

[此处图片未下载成功]

[此处图片未下载成功]

(6)提供一个HDFS内的文件的路径,对该文件进行创建和删除操作。如果文件所在目录不存在,则自动创建目录;

[此处图片未下载成功]

[此处图片未下载成功]

(7)提供一个HDFS的目录的路径,对该目录进行创建和删除操作。创建目录时,如果目录文件所在目录不存在则/doc/d52aebffbb0d4a7302768e9951e79b896802689c.html自动创建相应目录;删除目录时,由用户指定

当该目录不为空时是否还删除该目录;

[此处图片未下载成功]

[此处图片未下载成功]

(8)向HDFS中指定的文件追加内容,由用户指定内容追加到原有文件的开头或结尾;

[此处图片未下载成功]

[此处图片未下载成功]

(9)删除HDFS中指定的文件;

[此处图片未下载成功]

由于已经删除,所以会显示操作失败。

[此处图片未下载成功]

(10)删除HDFS中指定的目录,由用户指定目录中如果存在文件时是否删除目录;

由于前面已经删除,所以显示无该文件.

[此处图片未下载成功]

[此处图片未下载成功]

(11)在HDFS中,将文件从源路径移动到目的路径。

[此处图片未下载成功]

移动成功:

[此处图片未下载成功]

2.编程实现一个类“MyFSDataInputStream”,该类继承“org.apache.hadoop.fs.FSDataInput

Stream”,要求如下:实现按行读取HDFS中指定文件的方法“readLine()”,如果读到文件末尾,则返回空,否则返回文件一行的文本。

进行文档读取如下:

[此处图片未下载成功]

3.查看Java帮助手册或其它资料,用“.URL”和“org.apache.hadoop.fs.FsURLStre

amHandlerFactory”编程完成输出HDFS中指定文件的文本到终端中。

[此处图片未下载成功]

4实验报告

[此处图片未下载成功]

[此处图片未下载成功]

5实验心得:///doc/d52aebffbb0d4a7302768e9951e79b896802689c.htmlar

这是第一次进行云计算实验课,首次实验,感觉茫然不知所措,即便老师给了答案,但是还是有些问题想不明白,有些问题也还没解决。但这次实验中,我对HDFS在Hadoop体系结构中的角色熟练使用有了一定的了解,也熟悉了一点HDFS操作常用的Shell命令,熟悉HDFS操作常用的Java API。达到本次实验目的

文库下载 /

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/563794.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

java canvas 画图片_canvas画布——画八卦图

浏览器支持Internet Explorer 9、Firefox、Opera、Chrome 以及 Safari 支持 arc() 方法。注释:Internet Explorer 8 或更早的浏览器不支持 元素。定义和用法arc() 方法创建弧/曲线(用于创建圆或部分圆)。提示:如需通过 arc() 来创建圆,请把起…

计算两个数的乘积java编写_Java模拟计算机的整数乘积计算功能示例

本文实例讲述了Java模拟计算机的整数乘积计算功能。分享给大家供大家参考,具体如下:计算机计算整数乘积的原理:实现代码:package math;public class two {/*** Fundamental method* f(n) O(n^2)* param a* param b* return*/publ…

java使用linux常用命令_linux常用Java程序员使用命令(一)

pwd 显示当前路径cd切换目录 . .. ~ls显示文件(夹)-l 显示详细信息-a显示全部,包括隐藏文件(夹)mkdir创建文件夹-p递归创建touch创建空白文件echocat、tac、more、tail 查看文本内容rmdir删除空白文件夹rm-f 强制删除-r递归删除cp复制/新建文件mv移动/重命名find查找…

java中start与loop_java for-loop问题

我正在制作一个Java程序来计算Simpson的积分规则.这是我的代码.注意count 4,9,10,11的输出值中的第二列数字.它们不是我需要的数字,它们不遵循这种模式.我需要这些数字是准确的.发生了什么,我该如何解决?public static void main(String[] args){double totalS 0.…

java查询数据库的方式_Java连接各种数据库方式速查表

1、Oracle8/8i/9i数据库(thin模式)Class.forName("oracle.jdbc.driver.OracleDriver").newInstance();String url"jdbc:oracle:thin:localhost:1521:orcl"; //orcl为数据库的SIDString user"test";String password"test";Connection c…

java多线程编程—高级主题_Java day20 高级编程【第一章】Java多线程编程

【第一章】Java多线程编程一.进程与线程多个时间段会有多个程序依次执行,但是同一时间点只有一个进程执行线程是在进程基础之上划分的更小的程序单元 ,线程是在进程基础上创建并且使用的,所以线程依赖于进程的支持,但是来讲&#…

java object数组转实体类_详解Java中String JSONObject JSONArray List实体类转换

JSON使用阿里的fastJson为依赖包gradle依赖管理如下:compile group: "com.alibaba", name: "fastjson", version:"1.2.41"1、String转JSONObject前言:String 是JSONObject格式的字符串eg:JSONObject jSONObject JSONObje…

mysql中不要 秒的函数_Mysql中日期和时间函数应用不用求人 | 很文博客

对于每个类型拥有的值范围以及并且指定日期何时间值的有效格式的描述见7.3.6 日期和时间类型。这里是一个使用日期函数的例子。下面的查询选择了所有记录,其date_col的值是在最后30天以内:mysql> SELECT something FROM tableWHERE TO_DAYS(NOW()) - …

java实现log4j_log4j在java中实现

public class AccLogBase {/**致命错误. */public static final int LOG_LEVEL_FATAL 1;/** 错误. */public static final int LOG_LEVEL_ERROR 2;/** 警告. */public static final int LOG_LEVEL_WARN 3;/**信息. */public static final int LOG_LEVEL_INFO 4;/** debug. …

e x泰勒 java_maven project

最近没事了玩一下maven,使用maven管理工程中的依赖包非常的方便。建立maven web工程的时候开始不知道怎么用tomcat来调试,总是使用mave的tomcat插件发布了后来调试,觉得非常的麻烦,网上找了点材料,看看maven web工程不…

java定义说话方法_类定义的基本形式_Java语言程

类定义的基本形式_Java语言程4.2.1 类定义的基本形式前面一节我们已经了解了类和对象的概念,然而在实际编程过程中,该如何定义一个类以及类中的对象呢?在Java语言中,用户自己可以定义一个类,作…

displayprime java_java - “没有X11 DISPLAY变量” - 这是什么意思?

我正在尝试在我的Linux机器(Slackware)上安装Java应用程序。我收到了以下错误,我不明白。你能告诉我如何处理这个问题吗? 谢谢。这是我得到的:(我看到需要设置一些X11 DISPLAY变量,但我应该给它什么值以及如何?)~$ java -jar gate…

java 判断顺序_通过指令码来判断Java代码的执行顺序(++问题与return和finally的问题)...

问题在《深入理解Java虚拟机》一书中遇到了如下代码:public int method() {int i;try {i 1;return i;} catch (Exception e) {i 2;return i;} finally {i 3;}}由于曾经搜了一下return和finally的问题后,只是简单的看到了finally会执行,从而…

java 怎么从性能上优化代码_月薪上万做好这一步:程序员职场中必须掌握的的Java代码性能优化技巧...

尽量指定类、方法的final修饰符Java编译器会寻找机会内联所有的final方法,内联对于提升Java运行效率作用重大,具体参见Java运行期优化。此举大概能够使性能平均提高50%。尽量重用对象特别是String对象的使用,出现字符串连接时应该使用StringB…

java创建线程几种_java中创建线程有几种方式

详细内容线程的创建方式1、继承Thread类实现多线程2、覆写Runnable()接口实现多线程,而后同样覆写run()。推荐此方式3、使用Callable和Future创建线程相关视频教程推荐:java学习视频实例如下:1、继承Thread类实现多线程/** 继承Thread类创建线…

php编译支持mysql,编译php支持curl和pdo_mysql

安装curl1. curl 是 php 标准库,所以可以在原來的 phpX.X.X.tar.gz 中找到。2. 進入 php 目录中的 ext 找到 curl3. 在 curl 目录中执行 phpize #此命令用于生成configure文件(如果没有此软件上网下载安装一个)4. 然后他生成的文件进行 ./configure–with-php-config/usr/local…

php自定义中文分词方法,php实现的中文分词类完整实例

本文实例讲述了php实现的中文分词类。分享给大家供大家参考,具体如下:该中文分词类源码使用http://tools.ddpool.cn/code/jb51_php_format进行了格式化处理,便于阅读。具体代码如下:class Segmentation {var $options array(lowe…

php打开rs232,php_ser_5.2.0-5.2.17

php_ser_5.2.0-5.2.17所属分类:WEB开发开发工具:PHP文件大小:169KB下载次数:62上传日期:2011-09-23 11:30:16上 传 者:随寻说明: php实现RS232串口通信下载php_ser_5.2.0.zip解冻把php_ser放到…

使用php,使用 PHP

使用 PHP推荐查看本文HTML版本本节汇集了你在写 PHP 脚本时可能碰到的大多数普通错误。1. 我想写一个可以处理任何表单来的数据的通用 PHP 脚本。我怎么知道哪个 POST 方法变量可用呢?2. 我需要在所有的单引号()前加一个反斜线(\),使它们变成(\)&#xf…

手机电脑自适应导航源码php,自适应各终端懒人网址导航源码 v2.0

自适应各终端懒人网址导航源码。V2.0版本是在原1.8版本的基础上修复和增加了些功能。推荐直接使用新版本,舍弃旧版本,后期会继续不定期更新。测试环境:宝塔Nginx -Tengine2.2.3的php5.5mysql先导入数据库文件db/db.sql再修改config.php数据库…