elastic 修改map_Amazon Elastic Map Reduce使用Apache Mahout计算建议

elastic 修改map

Apache Mahout是一个“可扩展的机器学习库”,其中包括各种单节点和分布式推荐算法的实现。 在上一篇博客文章中, 我描述了如何在单个节点上实现在线推荐系统来处理数据。 如果数据太大而无法放入内存(> 100M首选项数据点)怎么办? 然后我们别无选择,只能看一下Mahout的分布式推荐器实现!

分布式推荐器基于Apache Hadoop。 这是一项需要输入用户偏好列表,计算项目共现矩阵并为每个用户输出前K个建议的工作。 有关此博客如何工作以及如何在本地运行的介绍性博客,请参见此博客文章 。

我们当然可以在自定义的Hadoop群集上运行此作业,但是仅使用预先配置的作业(如EMR)会更快(且痛苦更少)。 但是,有一个小问题。 EMR上提供的最新Hadoop版本是1.0.3,其中包含Apache Lucene 2.9.4的jar。 但是,推荐程序作业取决于Lucene 4.3.0,这将导致以下漂亮的堆栈跟踪:

2013-10-04 11:05:03,921 FATAL org.apache.hadoop.mapred.Child (main): Error running child : java.lang.NoSuchMethodError: org.apache.lucene.util.PriorityQueue.<init>(I)Vat org.apache.mahout.math.hadoop.similarity.cooccurrence.TopElementsQueue.<init>(TopElementsQueue.java:33)at org.apache.mahout.math.hadoop.similarity.cooccurrence.RowSimilarityJob$UnsymmetrifyMapper.
map(RowSimilarityJob.java:405)at org.apache.mahout.math.hadoop.similarity.cooccurrence.RowSimilarityJob$UnsymmetrifyMapper.
map(RowSimilarityJob.java:389)at org.apache.hadoop.mapreduce.Mapper.run(Mapper.java:144)at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.java:771)at org.apache.hadoop.mapred.MapTask.run(MapTask.java:375)at org.apache.hadoop.mapred.Child$4.run(Child.java:255)at java.security.AccessController.doPrivileged(Native Method)at javax.security.auth.Subject.doAs(Subject.java:415)at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1132)at org.apache.hadoop.mapred.Child.main(Child.java:249)

如何解决呢? 好吧,我们“只是”需要在EMR Hadoop安装中更新Lucene。 我们可以为此使用引导操作 。 具体步骤如下:

  1. 下载lucene-4.3.0.tgz(例如从此处 )并将其上传到S3存储桶中; 将文件公开。
  2. 将该脚本也上传到存储桶中; 称之为例如update-lucene.sh
    #!/bin/bash
    cd /home/hadoop
    wget https://s3.amazonaws.com/bucket_name/bucket_path/lucene-4.3.0.tgz
    tar -xzf lucene-4.3.0.tgz
    cd lib
    rm lucene-*.jar
    cd ..
    cd lucene-4.3.0
    find . | grep lucene- | grep jar$ | xargs -I {} cp {} ../lib

    该脚本将在Hadoop节点上运行,并将更新Lucene版本。 确保更改脚本并输入正确的存储桶名称和存储桶路径,以使其指向公共Lucene存档。

  3. mahout-core-0.8-job.jar到存储桶
  4. 最后,我们需要将输入数据上传到S3。 输出数据也将保存在S3上。
  5. 现在,我们可以开始设置EMR作业流程。 转到Amazon控制台上的EMR页面,然后开始创建新的工作流程。 我们将使用“ Amazon Distribution” Hadoop版本,并使用“ Custom JAR”作为作业类型。

    2013-10-15_1230-1024x672

  6. “ JAR位置”必须指向我们上载Mahout jar的位置,例如s3n://bucket_name/bucket_path/mahout-0.8-job.jar (请确保将其更改为指向真实的存储桶!)。 至于jar参数,我们将运行RecommenderJob并使用对数似然性:
    org.apache.mahout.cf.taste.hadoop.item.RecommenderJob 
    --booleanData 
    --similarityClassname SIMILARITY_LOGLIKELIHOOD 
    --output s3n://bucket_name/output 
    --input s3n://bucket_name/input.dat

    这也是指定S3上输入数据的位置和输出写入位置的地方。

    2013-10-15_1232-1024x405

  7. 然后,我们可以选择要使用的计算机数量。 当然,这取决于输入数据的大小以及所需的结果速度。 这里主要要更改的是“核心实例组”计数。 2是测试的合理默认值。

    2013-10-15_1236-1024x532

  8. 我们可以保持高级选项不变
  9. 现在我们进入更重要的步骤之一:设置引导程序动作。 我们需要设置两个:
    • 内存密集型配置(否则您会很快看到一个OOM)
    • 我们的自定义update-lucene操作(路径应指向S3,例如s3://bucket_name/bucket_path/update-lucene.sh

    2013-10-15_1240-1024x622

就是这样! 现在,您可以创建并运行作业流程,在几分钟/几小时/几天之后,您将在S3上等待结果。

参考: Amazon Elastic Map Reduce可以通过 JCG合作伙伴 Adam Warski的Blog(Adam Warski博客) 使用Apache Mahout计算建议 。

翻译自: https://www.javacodegeeks.com/2013/10/amazon-elastic-map-reduce-to-compute-recommendations-with-apache-mahout.html

elastic 修改map

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/346466.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

mysql 更新时间加数字_Mysql实战45讲笔记:8、聚合函数count

count(*)的实现方式在不同的MySQL引擎中&#xff0c;count()有不同的实现方式 1. MyISAM引擎把一个表的总行数存在了磁盘上&#xff0c;因此执行count()的时候会直接返回这个数&#xff0c;效率很高&#xff1b; 2. 而InnoDB引擎就麻烦了&#xff0c;它执行count(*)的时候&…

python学生管理系统类图_类图 python

广告关闭 腾讯云11.11云上盛惠 &#xff0c;精选热门产品助力上云&#xff0c;云服务器首年88元起&#xff0c;买的越多返的越多&#xff0c;最高返5000元&#xff01; 我正在研究一个庞大的遗留python类&#xff0c;它有很多方法。 我最终将复杂的方法分解成更小的部分&#x…

简单的测试可以防止最严重的故障

错误处理是软件开发中最困难且被忽略的部分之一&#xff0c;如果系统是分布式的&#xff0c;那么这将变得更加困难。 好的论文写在“ 简单测试可以预防最关键的故障” 主题上。 每个开发人员都应该阅读本文。 我将尝试总结本文的主要内容&#xff0c;但建议阅读该论文以获取有…

sql 两个 in_SQL基础知识——IN运算符

IN的作用IN运算符允许您在WHERE子句中指定多个值。IN运算符是多个OR条件的简写。IN的语法SELECT column_name(s) FROM table_name WHERE column_name IN (value1, value2, ...);或者SELECT column_name(s) FROM table_name WHERE column_name IN (SELECT STATEMENT);示例数据库…

pythonlist循环添加元素_python中 for循环之后 添加元素到列表失败?

import re ls list() dc dict() # 介词、连词、人称代词等自己统计 adverb [i, you, he, she, it, in, on, with, by, for, at, about, under, of, to, and, or, therefore, so, of, a] with open("老人与海.txt", moder, encodingutf-8) as f: lryh f.read() # …

开始协议处理句柄_基于smb协议的wmiexec浅析

前言之前研究过Crackmapexec这款工具&#xff0c;对这个工具基于smb协议的wmiexec执行方法产生的流量进行了分析&#xff0c;网上似乎还没有相关的文章&#xff0c;这里旨在抛砖引玉&#xff0c;简单梳理下整个过程&#xff0c;以初学者的视角&#xff0c;探索流量当中存在的奥…

apache camel_轻量级的开源集成:Apache Camel还是Spring集成?

apache camel首先&#xff0c;为全面披露信息&#xff0c;在过去的1.5年中&#xff0c; 我一直担任 FuseSource&#xff08;现为Red Hat&#xff09; 的顾问&#xff0c;为零售&#xff0c;运输&#xff0c;银行/金融等不同行业的大型和小型公司提供SOA和集成项目支持。我的专长…

mysql max pool_asp.net连接mysql得到错误all pooled connections were in use and max pool size was reach...

asp.net连接mysql数据库时&#xff0c;得到以下错误信息MySql.Data.MySqlClient.MySqlException (080004005): error connecting: Timeout expired. The timeout period elapsed prior to obtaining a connection from the pool. This may have occurred because all pooled co…

科尔达服务101

我今天想写一篇简短的要点文章。 我真的很好奇我能多快出版此书。 所以走吧 这篇文章是关于Corda Services&#xff08;使用Corda 3.2版&#xff09;的。 这些是什么&#xff1f; 作为经常使用Spring的开发人员&#xff0c;我个人会说它们就像Beans。 Spring Beans可以做的还很…

python写入数据到excel_python实现查询的数据写入到excel

#codingutf-8 import sys import xlwt import pymysql as MySQLdb #这里是python3 如果你是python2.x的话&#xff0c;import MySQLdb import datetime host 192.168.10.109 user root pwd port 3306 db com66nao_mi sheet_name report out_path rD:\SQL\aaa.xls print…

1899-11-30 php mysql_PHP学习十一--PHP操作MYSQL数据库

1.PHP访问Mysql数据库的一般步骤连接MySQL服务器选择MySQL数据库请求 执行SQL语句 请求MySQL数据库服务器 关闭结果集 数据资源响应 关闭MySQL服务器 响应(1).连接MySQL服务器。通过…

intent隐式和显式_Neo4j:使隐式关系成为显式和双向关系

intent隐式和显式我最近阅读了Michal Bachman关于 Neo4j中双向关系的文章 &#xff0c;他建议对于某些关系类型&#xff0c;我们对关系的方向不那么感兴趣&#xff0c;因此可以在查询时忽略它。 他使用以下示例显示Neo Technology和GraphAware之间的合作关系&#xff1a; 两家…

python运行pyc文件_Python什么情况下会生成pyc文件?

作为Python爱好者&#xff0c;需要了解.py脚本的基本运行机制及特性&#xff1a; 在很多工作上Python的运行流程基本上取决于用户&#xff0c;因此源码不需要编译成二进制代码&#xff08;否则无法实现大部分贴近用户的特性&#xff09;&#xff0c;而直接从源码运行程序。当我…

mysql 8.0认证失败_连接mysql8.0提示认证协议失败

描述用docker容器安装软件非常方便&#xff0c;省了太多麻烦。通过docker运行mysql8.0,再用navicat客户端连接出现client does not support authentication protocol requested by server。像似认真失败&#xff0c;检查mysql.user表&#xff0c;已经配置了用户&#xff0c;为什…

mysql读写分离 存储过程_基于maxscale的读写分离部署笔记

使用maxscale搭建的读写分离架构&#xff0c;后期还可以再结合MHA做master的故障转移&#xff0c;这样业务层面上不需要做任何的改动即可。基于connect方式的不要使用。从库延迟他还会继续分发请求过去&#xff0c;暂时不适合生产使用。实验演示&#xff1a;目前的主从结构&…

python读书笔记2000_流畅的Python读书笔记

特殊方法的存在是为了Python解释器调用的&#xff0c;你自己并不需要去调用他们&#xff0c;比如说my_object.len()这种写法是没有的&#xff0c;应该使用len(my_object)。在使用len(my_object)的时候&#xff0c;如果my_object是一个自定义类的对象&#xff0c;那么Python会自…

mysql 注入 file load_Mysql注入中into outfile和load_file()总结

(1)outfile后面不能接0x开头或者char转换以后的路径&#xff0c;只能是单引号路径。这个问题在php注入中更加麻烦&#xff0c;因为会自动将单引号转义成\,那么基本没的玩了。唯一的一种可能就是你使用mysql远程连接&#xff0c;然后直接在mysql中执行命令&#xff0c;就没有查询…

vscode python单步调试_调试期间VSCode python“未验证断点”?

我正在使用VSCode调试python应用程序。在我有一个主python文件&#xff0c;从这里启动调试器。我可以在这个文件中放置断点&#xff0c;但是如果我想在主文件调用的其他文件中放置断点&#xff0c;我会将它们作为“未验证的断点”得到&#xff0c;调试器会忽略它们。在如何更改…

您自己的MicroProfile Config来源

MicroProfile配置 &#xff0c;即一部分MicroProfile规格&#xff0c;是Java Enterprise和微服务配置的标准化。 开箱即用&#xff08;即&#xff0c;对于规范定义的所有实现都是强制性的&#xff09;有3种方法来定义您的配置&#xff1a; System.getProperties() System.ge…

antd 3升级命令_是时候拥有一个你自己的命令行工具了

本篇博客主要介绍了如何使用commander, inquirer以及chalk从零开始&#xff0c;创建属于自己的命令行工具。0. 一分钟体验首先我们先花一分钟的时间&#xff0c;体验一下创建自己的命令行cli工具是什么感觉。0.1. 新建项目目录假如我们的项目名称叫hello-cli&#xff0c;使用如…