根据图识,项目将分为三个部分。
整个项目基本思路是如何通过爬虫爬取大量数据放到Hbase,然后通过ETL工具初步转化筛选将数据存到mongodb,抽取mongodb的数据进行清洗处理算出模型放到hdfs。
后续进来数据通过模型运算出数据的类型。
项目系统主要包括前端+后端+机器学习,前端采用ReactNative,Native,后端采用Dubbo+Spring+java,机器学习采用Spark进行实现,本项目机器学习-spark代码运行在mesos上。
2024/6/3 3:08:56 106B Spark 机器学习 实战
1
对hadoopHDFS的分析,描述,HDFS文件的访问,读写等。
HDFS读文件解析,HDFS写文件解析,HDFS文件创建流程,HDFS文件数据流写入传输协议
2024/6/2 21:49:08 485KB hadoop
1
第3章-分布式文件系统HDFS.pdf
2024/6/2 15:11:28 2.44MB 大数据
1
Hadoop_2.X_HDFS源码剖析.pdf.
2024/4/12 7:28:18 155.71MB hadoop
1
本实例依托于springmvc框架,采用maven作为jar包管理仓库,通过引用hadoop相关jar包,编写了hdfs操作工具类,能够在web端实现文件远程上传至hdfs。
2024/4/2 8:28:50 109.86MB springmvc hadoop hdfs maven
1
Ambari是一个基于web的工具,用于配置、管理和监视Hadoop集群,支持HDFS、MapReduce、Hive、HCatalog,、HBase、ZooKeeper、Kafka、Oozie、Pig、Sqoop和Spark等服务。
Ambari同样还提供了集群状况仪表盘,以友好的用户界面对它们的性能特性进行诊断。
2024/3/24 4:11:14 2.21MB ambari
1
开始吧下载无业游民的盒子::流浪者盒子添加u16/path/you_downloaded_box无所事事下载hbase,hadoop,spark将下载到./ansible/roles/spark2/files运行ansible-playbook./ansible/playbook.yml-i./ansible/inventory-uvagrant-k密码是vagrant下载jdk8:://pan.baidu.com/s/1bpxfpvD下载hbase:://pan.baidu.com/s/1slhdGhZ下载hadoop::下载星火::检查hdfs:::50070/dfshealth.html#tab-datanode火花:::HBase的:::16010/master-status部署SparkHBase示例字数示例chmod+x./ansible/deploy-wordcount.sh运行./ansible/deploy-wordcount.
2024/3/12 12:22:37 1.28MB ansible spark hadoop hbase
1
包含hdfs,flume,yarn,kafka,sqoop,streamsql,inceptor,hyperbase,guardian等
2024/2/22 20:40:16 11.52MB 星环 hadoop tdh
1
在线播放存储于hdfs上的视频
2024/2/21 23:12:54 375KB hdfs 视频点播
1
Hbase修复工具示例情景:Q:缺失hbase.version文件A:加上选项-fixVersionFile解决Q:如果一个region即不在META表中,又不在hdfs上面,但是在regionserver的onlineregion集合中A:加上选项-fixAssignments解决Q:如果一个region在META表中,并且在regionserver的onlineregion集合中,但是在hdfs上面没有A:加上选项-fixAssignments-fixMeta解决,(-fixAssignments告诉regions
2024/2/14 9:41:19 2.47MB hbck2
1
共 72 条记录 首页 上一页 下一页 尾页
在日常工作中,钉钉打卡成了我生活中不可或缺的一部分。然而,有时候这个看似简单的任务却给我带来了不少烦恼。 每天早晚,我总是得牢记打开钉钉应用,点击"工作台",再找到"考勤打卡"进行签到。有时候因为工作忙碌,会忘记打卡,导致考勤异常,影响当月的工作评价。而且,由于我使用的是苹果手机,有时候系统更新后,钉钉的某些功能会出现异常,使得打卡变得更加麻烦。 另外,我的家人使用的是安卓手机,他们也经常抱怨钉钉打卡的繁琐。尤其是对于那些不太熟悉手机操作的长辈来说,每次打卡都是一次挑战。他们总是担心自己会操作失误,导致打卡失败。 为了解决这些烦恼,我开始思考是否可以通过编写一个全自动化脚本来实现钉钉打卡。经过一段时间的摸索和学习,我终于成功编写出了一个适用于苹果和安卓系统的钉钉打卡脚本。
2024-04-09 15:03 15KB 钉钉 钉钉打卡