标签: hadoop

9 篇文章

利用pydoop将mysql导入hdfs
首先配置环境变量nano ~/.bashrc,添加下面这几行 export HADOOP_HOME=/usr/local/hadoop export PATH=$HADOOP_HOME/bin:$PATH export HADOOP_CLASSPATH=$HADOOP_HOME/etc/hadoop:$HADOOP_HOME/share/hadoo…
数据治理开发工具编写
之前老师给我的python团队一个功能列表,用python实现数据清洗,调用计算,数据导入,数据导出,表操作等功能。前几天突然提起要把程序封装到一起,打包成一个exe文件并做授权,苦思冥想一夜,想了一下大概的产品结构,确定好架构图。于是我们小组开始疯狂的写第一版的基础功能软件,这其中遇到一些问题。 1.多用户操作 举个例子,我刚开始,在数据传递上,…
hadoop,hbase,zookeeper的日志清理方法
当时docker镜像之后,重新启动,发现遇到很多问题,无奈之下,送给他一个日志与临时文件删除大礼包 删除 rm -rf /usr/local/hadoop/tmp/hdfs/* rm -rf /usr/local/hadoop/logs/* rm -rf /usr/local/zookeeper/dataDir/* rm -rf /usr/loca…