安科网

FourInOne VS Hadoop

laotumingke

laotumingke

2012-06-05

关注 关注

FourInOne（中文名字 “四不像”）是一个四合一分布式计算框架，在写这个框架之前，我对分布式计算进行了长时间的思考，也看了老外写的其他开源框架,当我们把复杂的 hadoop当作一门学科学习时，似乎忘记了我们想解决问题的初衷：我们仅仅是想写个程序把几台甚至更多的机器一起用起来计算，把更多的cpu和内存利用上，来解决我们数量大和计算复杂的问题，当然这个过程中要考虑到分布式的协同和故障处理。如果仅仅是为了实现这个简单的初衷，为什么一切会那么复杂，我觉的自己可以写一个更简单的东西，它不需要过度设计，只需要看上去更酷一点，更小巧一点，功能更强一点。于是我将自己对分布式的理解融入到这个框架中，考虑到底层实现技术的相似性，我将Hadoop,Zookeeper,MQ,分布式缓存四大主要的分布式计算功能合为一个框架内，对复杂的分布式计算应用进行了大量简化和归纳。

 fourinone-1.11.09hadoop-0.21.0
体积82K71M
依赖关系就一个jar,没有依赖约12项jar包依赖
配置就一个配置文件较多配置文件和复杂属性
集群搭建简单，每台机器放一个jar和配置文件复杂，需要linux操作基础和ssh等复杂配置，还需要较多配置文件配置
计算模式提供两种计算模式：包工头和工人直接交互方式，包工头和工人通过消息中枢方式交互，后者不需要工人节点可直接访问计算更多倾向于文件数据的并行读取，而非计算过程的设计。JobTracke 跟TaskTracker直接交互， 查询NameNode后，TaskTracker直接从Datanode获取数据。
并行模式N*N，支持单机并行，也支持多机并行，多机多实例并行1*N，不支持单机并行，只支持多机单实例并行
内存方式支持内存方式设计和开发应用，并内置完整的分布式缓存功能以hdfs文件方式进行数据处理，内存方式计算支持很弱
文件方式自带文件适配器处理ioHdfs处理文件io
计算数据要求任意数据格式和任意数据来源，包括来自数据库，分布式文件，分布式缓存等Hdfs内的文件数据，多倾向于带换行符的数据
调度角色包工头，可以有多个，支持链式处理，也支持大包工头对小包工头的调度JobTracke，通常与NameNode一起
任务执行角色农民工，框架支持设计多种类型的工人用于拆分或者合并任务TaskTracker，通常与Datanode一起
中间结果数据保存手工仓库，或者其他任意数据库存储设备Hdfs中间结果文件
拆分策略自由设计，框架提供链式处理对于大的业务场景进行环节拆分数据的存储和计算拆分根据业务场景自定义以64m为拆分进行存储，以行为拆分进行计算

实现map接口，按行处理数据进行计算

合并策略自由设计，框架提供农民工节点之间的合并接口，可以互相交互设计合并策略，也可以通过包工头进行合并TaskTracker不透明，较少提供程序控制，合并策略设计复杂

实现reduce接口进行中间数据合并逻辑实现

内存耗用无需要制定JVM内存，按默认即可，根据计算要求考虑是否增加JVM内存需要制定JVM内存，每个进程默认1G，常常namenode，jobtracker等启动3个进程，耗用3G内存
监控框架提供多环节链式处理设计支持监控过程，通过可编程的监控方式，给于业务开发方最大灵活的监控需求实现，为追求高性能不输出大量系统监控log输出较多的系统监控log，如map和reduce百分比等，但是会牺牲性能，业务监控需要自己实现
打包部署脚本工具上传jar包到jobtracker机器
平台支撑支持跨平台，windows支持良好多倾向于支持linux，Windows支持不佳，需要模拟linux环境，并且建议只用于开发学习
其他协同一致性、分布式缓存、通讯队列等跟分布式计算关系密切的功能支持不支持
总结：Hadoop并不是为了追求一个并行计算的框架而设计，提供快捷和灵活的计算方式去服务各种计算场景， 它更多的是一个分布式文件系统，提供文件数据的存储和查询，它的map/reduce更倾向于提供并行计算方式进行文件数据查询。而fourinone相反。

Fourinone和hadoop运行wordcount的对比测试（平均4核4g配置，输入数据为文件）：

 fourinone-1.11.09(n*4)fourinone-1.11.09(n*1)hadoop-0.21.0(n*1)
3台机器*256M4s12s72s
3台机器*512M7s30s140s
3台机器*1G14s50s279s
19台机器*1G21s60s289s
10台机器*2G29s  
5台机器*4G60s  

说明：Fourinone可以充分利用单机并行能力，4核计算机可以4个并行实例计算，hadoop目前只能N*1；另外，可以由上图看出，如果要完成20g的数据，实际上fourinone只需要使用5台机器用60秒完成，比使用19台机器完成19g的hadoop节省了14台机器，并提前了 200多秒

相关分布式框架(jar格式)及demo代码下载：

http://download.csdn.net/detail/fourinone/3557912

http://www.skycn.com/soft/68321.html

td 分布式计算 hadoop

laotumingke

laotumingke

0 关注 0 粉丝 0 动态

关注 关注

相关推荐

MySQL ddl语句的使用

数据定义语言create、drop、alter语句 。定义对数据库记录的增、删、改操作。定义对数据库、表、字段、用户的访问权限和安全级别。这小节主要了解下数据定义语言DDL。我们用它对数据库、表进行一些管理操作，比如：建库、删库、建表、修改表、删除表、对字

云中舞步 2020-11-12

MySQL全面瓦解之查询的正则匹配详解

上一章 查询的过滤条件，我们了解了MySQL可以通过 like % 通配符来进行模糊匹配。同样的，它也支持其他正则表达式的匹配，我们在MySQL中使用 REGEXP 操作符来进行正则表达式匹配。似，但又强大很多，能够实现一些很特殊的、复杂的规则匹配。如果

杨德龙 2020-11-11

shell中set指令的用法详解

set 指令可根据不同的需求来设置当前所使用 shell 的执行方式，同时也可以用来设置或显示 shell 变量的值。当指定某个单一的选项时将设置 shell 的常用特性，如果在选项后使用 -o 参数将打开特殊特性，若是 +o 将关闭相应的特殊特性。而不带

JohnYork 2020-10-16

详解shell 函数定义与调用

本节程序实现函数定义与调用，注意调用函数是不要使用括号，代码如下：。本节程序实现向被调用函数传递参数，$0是运行该脚本的shell传递的参数从$1开始、传递多个参数是以空格分隔，代码如下：。与$*相同，但是使用时加引号，并在引号中返回每个参数。显示Shel

wangzhaotongalex 2020-09-22

Python list和str互转的实现示例

输出： [1, 2, 3, 4, 5]. list2 = str2.split() #or list2 = str2.split(" "). 以下几个内置的函数可以执行数据类型之间的转换。这些函数返回一个新的对象，表示转换的值。将x转换

xiaoseyihe 2020-11-16

MongoDB查询之高级操作详解（多条件查询、正则匹配查询等）

MongoDB查询文档使用find()方法，同时find()方法以非结构化的方式来显示所有查询到的文档。db.collection.find -- 返回所有符合查询条件的文档。$type操作符是基于BSON类型来检索集合中匹配的数据类型，MongoDB中可

不要皱眉 2020-10-14

PHP如何通过date() 函数格式化显示时间

n 为无前导0数字月份。月份中的第几天，前面有前导0，如03。date; //显示格式如 2008-12-01 12:01. 如果输出的时间和实际时间差8个小时的话，检查php.ini文件，做如下设置：date.timezone = PRC

Crazyshark 2020-11-13

ThinkPHP5分页paginate代码实例解析

$list = db('user')->paginate(10);$list = db('user')->paginate(10,false,['query'=>array('id' => $id)]);$this->assi

K先生 2020-11-10

jQuery实现日历效果

jquery是用的是2.0版本。--基于W3C标准 不用做任何修改-->. --设置初始化文档信息和文档管理标注-->. --整个页面编码 utf-8 国际编码 通用性最强，GBK/gb2312 中文-->. .signincalenda

momode 2020-09-11

程序员你是怎么绘制架构图？

作为一个程序员，假如让你绘制当前正在开发的项目的架构图，你会怎么绘制？先来同步一个理念。一种架构设计的方法论，忽略不在同一个抽象成绩的细节，从而可以更好的表达和可视化。可以类比地图，地图分4个级别，国家，省，市，街道；而C4模型也分4个层级，Context

思君夜未眠 2020-09-04

聊一聊mycat数据库集群系列之双主双重实现

　　最近在梳理数据库集群的相关操作，现在花点时间整理一下关于mysql数据库集群的操作总结，恰好你又在看这一块，供一份参考。本次系列终结大概包括以下内容：多数据库安装、mycat部署安装、数据库之读写分离主从复制、数据库之双主多重、数据库分库分表。我是一个

点滴技术生活 2020-08-21

C# 正则表达式

.Net 框架提供了允许这种匹配的正则表达式引擎。模式由一个或多个字符、运算符和结构组成。正则表达式中的反斜杠字符（\）指示其后跟的字符是特殊字符，或应按原义解释该字符。与报警 符 \u0007 匹配。" + ‘\u0007‘ 中的 "

MaggieRose 2020-08-19

Python基础---转义字符——Python

字符串中的转义字符。\t 在控制台输出一个 制表符，协助在输出文本时 垂直方向 保持对齐。制表符 的功能是在不使用表格的情况下在 垂直方向 按列对齐文本

kevinweijc 2020-08-18

HikariCP => 现阶段最快的数据库连接池

怎么说.... 有图有真相吧~要知道对于连接池来讲,代码越少,占用cpu和内存越少,Bug出现几率也是越小,那么代表他的执行率高,这就是为什么HikariCP受欢迎的原因之一。HikariCP是经受了市场的考验,走过太上老君的丹炉,现如今拿到SpringB

wintershii 2020-08-17

Redis 执行性能测试

Redis 性能测试是通过同时执行多个命令实现的。仅运行以逗号分隔的测试命令列表。仅打开 N 个 idle 连接并等待。$ redis-benchmark -h 127.0.0.1 -p 6379 -t set,lpush -n 10000 -q. 以上实

vapaad 2020-08-17

Redis服务之高可用组件sentinel详解

有没有这样的一组件帮我们对master做实时的监控，一旦发现master宕机就提升一个slave当选新的master，如果原master还有其他slave，将其他slave都从属于新的master；除此之外它还应该让系统在发生切换master时触发报警通知

wera00 2020-08-17

js实现表格单列按字母排序

本文实例为大家分享了js实现表格单列按字母排序的具体代码，供大家参考，具体内容如下。<link href="../css/表格数据搜索.css" rel="stylesheet">. <input

移动开发与培训 2020-08-16

js实现表格数据搜索

<input type="text" placeholder="搜索..." id="myInput" onkeyup="myFunction()">

ReunionIsland 2020-08-16

PyQt5 QDockWidget控件应用详解

QDockWidget是一个可以停靠在QMainWindow内的窗口控件，它可以保持在浮动状态或者在指定位置作为子窗口附加到主窗口中，QMainWindow类的主窗口对象保留有一个用于停靠窗口的区域，这个区域在控件的中央周围。QDoCKWidget类中的常

JimyFengqi 2020-08-16

使用imp和exp命令对Oracle数据库进行导入导出操作详解

例子：导出mydb数据库system用户，密码为123456的所有数据到D:\example.dmp文件中

love0u 2020-08-16
laotumingke

laotumingke

W3CSchool教程
HTML 教程
CSS 教程
Bootstrap 教程
Javascript 教程
jQuery 教程
后端教程
C 教程
Java 教程
PHP 教程
Python 教程
Go 教程
移动开发
Android 教程
Swift 教程
Kotlin 教程
jQuery Mobile 教程
ionic 教程
关于我们
新闻动态
联系方式
招聘英才
安科实验室
帮助与反馈

安科网(Ancii)，中国第一极客网

Copyright © 2013 - 2019 Ancii.com

京ICP备18063983号 京公网安备11010802014868号