1.大数据方面核心技术有哪些？
2.有什么关于 Spark 的源码书推荐？

大数据方面核心技术有哪些？

大数据技术的体系庞大且复杂，基础的源码技术包含数据的采集、数据预处理、源码分布式存储、源码数据库、源码数据仓库、源码扫雷scratch附源码机器学习、源码并行计算、源码可视化等。源码

       1、源码数据采集与预处理：FlumeNG实时日志收集系统，源码支持在日志系统中定制各类数据发送方，源码用于收集数据；Zookeeper是源码一个分布式的，开放源码的源码分布式应用程序协调服务，提供数据同步服务。源码

       2、数据存储：Hadoop作为一个开源的框架，专为离线和大规模数据分析而设计，HDFS作为其核心的元祖溯源码存储引擎，已被广泛用于数据存储。HBase，是一个分布式的、面向列的开源数据库，可以认为是hdfs的封装，本质是数据存储、NoSQL数据库。

       3、数据清洗：MapReduce作为Hadoop的轻热点源码查询引擎，用于大规模数据集的并行计算。

       4、数据查询分析：Hive的核心工作就是把SQL语句翻译成MR程序，可以将结构化的数据映射为一张数据库表，并提供HQL(HiveSQL)查询功能。Spark启用了内存分布数据集，除了能够提供交互式查询外，它还可以优化迭代工作负载。

       5、出额度源码数据可视化：对接一些BI平台，将分析得到的数据进行可视化，用于指导决策服务。

有什么关于 Spark 的书推荐？

       《大数据Spark企业级实战》本书共包括章，每章的主要内容如下。

       第一章回答了为什么大型数据处理平台都要选择SPARK。为什么spark如此之快?星火的理论基础是什么?spark如何使用专门的技术堆栈来解决大规模数据处理的需要?第二章回答了如何从头构建Hadoop集群的问题。如何构建基于Hadoop集群的星火集群?如何测试火星的质量?第三章是如何在一个集成开发环境中开发和运行星火计划。如何开发和测试IDA中的溯源码真伪spark代码?

       在这4章中，RDD、RDD和spark集成战斗用例API的作用类型将用于实际的战斗RDD。

第四章分析了星火独立模式的设计与实现、星火集群模型和星火客户端模式。

第五章首先介绍了spark core，然后通过对源代码的分析，分析了spark的源代码和源代码，仔细分析了spark工作的整个生命周期，最后分享了spark性能优化的内容。

       这说明了一步一步的火花的特点是使用了大约个实际案例，并分析了spark GraphX的源代码。

第八章，在星火SQL实践编程实践的基础上，详细介绍了星火SQL的内容。第九章讲了从快速启动机器学习前9章,MLlib的分析框架,基于线性回归、聚类,并解决协同过滤算法,源代码分析和案例启示MLlib一步一步,最后由基本MLlib意味着静态和朴素贝叶斯算法,决策树分析和实践,进一步提高的主要引发机器学习技巧。第十章详细描述了分布式存储文件系统、超轻粒子和超轻粒子的设计、实现、部署和使用。第十一章主要介绍了火花流的原理、源代码和实际情况。第十二章介绍了spark多语种编程的特点，并通过实例介绍了spark多语言编程。最后，将一个综合的例子应用到spark多语言编程的实践中。第十三章首先介绍了R语言的基本介绍和实践操作，介绍了使用sparkr和编码的火花，并帮助您快速使用R语言和数据处理能力。在第十四章中，详细介绍了电火花放电的常见问题及其调谐方法。首先介绍了个问题，并对它们的解决方案进行了优化。然后，从内存优化、RDD分区、对象和操作性能优化等方面对常见性能优化问题进行了阐述，最后阐述了火花的最佳实践。

       附录从spark的角度解释了Scala，并详细解释了Scala函数编程和面向对象编程。