Spark是Apache顶级项目里面最火的大数据处理的计算引擎，它目前是担任大数据计算的工作。
包括离线计算或交互式查询、数据挖掘算法、流式计算以及图计算等。
核心组件如下：SparkCore：包含Spark的基本功能；
尤其是定义RDD的API、操作以及这两者上的动作。
其他Spark的库都是构建在RDD和SparkCore之上的。
SparkSQL：提供通过ApacheHive的SQL变体Hive查询语言（HiveQL）与Spark进行交互的API。
每个数据库表被当做一个RDD，SparkSQL查询被转换为Spark操作。
对熟悉Hive和HiveQL的人，Spark可以拿来就用。
SparkStrea
包括离线计算或交互式查询、数据挖掘算法、流式计算以及图计算等。
核心组件如下：SparkCore：包含Spark的基本功能；
尤其是定义RDD的API、操作以及这两者上的动作。
其他Spark的库都是构建在RDD和SparkCore之上的。
SparkSQL：提供通过ApacheHive的SQL变体Hive查询语言（HiveQL）与Spark进行交互的API。
每个数据库表被当做一个RDD，SparkSQL查询被转换为Spark操作。
对熟悉Hive和HiveQL的人，Spark可以拿来就用。
SparkStrea
2018/6/20 1:19:43
557KB
1
简历最好能覆盖以下三方面的项目经历：基础平台搭建与线上问题解决一方面，许多中小型企业，大数据这一块其实还处于刚刚起步阶段，对于平台搭建这一块是刚需；
另一方面，一线大厂对于线上基础组件，比方说hdfs与spark的补丁修复（能二次开发就更好了）比较感兴趣。
而这些，都可以以项目的方式写进去。
实时计算类项目一个稍微复杂点的实时类项目几乎可以覆盖大数据生态圈的所有核心技术点，具体可以参考本人前期写的一篇文章:征信画像项目实施文档摘要机器学习类项目个人认为，数据部门终极价值的落地需要靠机器学习。
仅仅搞传统BI与实时计算的话，对于大部分中小型企业而言，大数据团队没有多大的存在价值。
另一方面，一线大厂对于线上基础组件，比方说hdfs与spark的补丁修复（能二次开发就更好了）比较感兴趣。
而这些，都可以以项目的方式写进去。
实时计算类项目一个稍微复杂点的实时类项目几乎可以覆盖大数据生态圈的所有核心技术点，具体可以参考本人前期写的一篇文章:征信画像项目实施文档摘要机器学习类项目个人认为，数据部门终极价值的落地需要靠机器学习。
仅仅搞传统BI与实时计算的话，对于大部分中小型企业而言，大数据团队没有多大的存在价值。
2018/2/6 15:10:15
166KB
1
大数据CDH安装包，包括hadoop-2.6.0-cdh5.7.0.tar.gz、hbase-1.2.0-cdh5.7.0.tar.gz、hive-1.1.0-cdh5.7.0.tar.gz、spark-2.1.0-bin-2.6.0-cdh5.7.0.tgz、sqoop-1.4.6-cdh5.7.0.tar.gz
2021/10/4 11:43:09
765.92MB
1
最全Spark操作完整示例代码-------是基于java的。
包含所有的spark常用算子操作和ml以及mlib、sparkstreaming、sparkSQL操作的示例DEMO。
内附有详细说明,由于内容过大删除了两个jar包,需要本人去下载,spark的安装包下的有这两个包，导入项目即可。
懒得改maven项目了。
适合有一定基础和已经工作的人员下载学习。
个人Github:https://github.com/huangyueranbbc
包含所有的spark常用算子操作和ml以及mlib、sparkstreaming、sparkSQL操作的示例DEMO。
内附有详细说明,由于内容过大删除了两个jar包,需要本人去下载,spark的安装包下的有这两个包，导入项目即可。
懒得改maven项目了。
适合有一定基础和已经工作的人员下载学习。
个人Github:https://github.com/huangyueranbbc
2015/3/14 16:06:21
43B
1
基于Spark的数据处理分析系统的设计与实现随着计算机和信息技术的迅猛发展和普及应用,行业应用系统的规模迅速扩大,行业应用所产生的数据呈爆炸性增长。
寻求无效的大数据处理技术、方法和手段已经成为现实世界...
寻求无效的大数据处理技术、方法和手段已经成为现实世界...
2017/2/27 3:41:56
7.44MB
1
在日常工作中，钉钉打卡成了我生活中不可或缺的一部分。然而，有时候这个看似简单的任务却给我带来了不少烦恼。
每天早晚，我总是得牢记打开钉钉应用，点击"工作台"，再找到"考勤打卡"进行签到。有时候因为工作忙碌，会忘记打卡，导致考勤异常，影响当月的工作评价。而且，由于我使用的是苹果手机，有时候系统更新后，钉钉的某些功能会出现异常，使得打卡变得更加麻烦。
另外，我的家人使用的是安卓手机，他们也经常抱怨钉钉打卡的繁琐。尤其是对于那些不太熟悉手机操作的长辈来说，每次打卡都是一次挑战。他们总是担心自己会操作失误，导致打卡失败。
为了解决这些烦恼，我开始思考是否可以通过编写一个全自动化脚本来实现钉钉打卡。经过一段时间的摸索和学习，我终于成功编写出了一个适用于苹果和安卓系统的钉钉打卡脚本。
2024-04-09 15:03
15KB