未分类 Flume各种拦截器(一) 时间戳拦截器 Timestamp.conf #1.定义agent名, source、channel、sink的名称 a4.sources = r1 a4.channels = c1 a4.sinks ... 03月02日 730 views 发表评论 阅读全文
未分类 多Flume传输到单Flume 目标:flume11监控文件hive.log,flume-22监控某一个端口的数据流,flume11与flume-22将数据发送给flume-33,flume33将最终数据写入到HDFS。 分步实现:... 03月02日 2,051 views 发表评论 阅读全文
未分类 Flume N对N设置 目标:使用flume1监控文件变动,flume1将变动内容传递给flume-2,flume-2负责存储到HDFS。同时flume1将变动内容传递给flume-3,flume-3负责输出到local 分... 03月02日 816 views 发表评论 阅读全文
未分类 Flume(二) 监控文件夹: 尖叫提示: 在使用Spooling Directory Source时 1) 不要在监控目录中创建并持续修改文件 2) 上传完成的文件会以.COMPLETED结尾 3) 被监控文件夹每5... 02月28日 4,111 views 发表评论 阅读全文
未分类 Flume搭建和简介(一) 配置: 上传,解压 进入conf 在flume.env.sh下面引入JAVA_HOME export JAVA_HOME=/opt/module/jdk1.8.0_144 conf文件夹同级创建一个j... 02月27日 4,140 views 发表评论 阅读全文
未分类 Zookeeper+Yarn高可用(自动切换) yarn-site.xml同步更新其他节点的配置信息(configure整个复制粘贴,可对比查看前后) <configuration> <property> &l... 02月27日 1,787 views 发表评论 阅读全文
未分类 Zookeeper+Hadoop高可用(自动切换) 在所有机器hdfs-site.xml中增加 <property> <name>dfs.ha.automatic-failover.enabled</name... 02月27日 2,125 views 发表评论 阅读全文
未分类 hadoop完全分布式搭建(重新整理) 完全分布式搭建 在前面单机版搭建成功的基础上: 修改网卡地址并重启网卡: 重启网卡 service newtork restart 设置主机名: hostnamectl set-host... 02月26日 2,810 views 发表评论 阅读全文
未分类 Zookeeper+Hadoop高可用(手动切换) 创建一个HAtest文件,可以循环创建 mkdir -vp /opt/module/HA 复制或者解压一个过去(此处是从前面分布式直接复制):cp -r hadoop2.8.4 HA 配置java环... 02月24日 1,237 views 发表评论 阅读全文
大数据 zookeeper搭建 所谓的奇数台服务器是根据配置文件来的。 剩下机器不超过半数则全部Not running 搭建: 复制文件到/opt/module/中 zk目录下新建zkData目录 修改conf下的zoo-sampl... 02月22日 2,719 views 发表评论 阅读全文