多读书多实践,勤思考善领悟

大数据hadoop资料分享与开发工具推荐

大数据hadoop资料分享与开发工具推荐

这里分享一些自己学习过程中觉得不错的资料和开发工具。 经典书籍 《hadoop 权威指南(第四版)》 2017年 《Kafka权威指南》 2017年 《从Paxos到Zookeeper 分布式一致性原理与实践》 2015年 《Sp...

大数据hadoop应用常用打包方式

大数据hadoop应用常用打包方式

一、简介在提交大数据作业到集群上运行时,通常需要先将项目打成JAR包。这里以Maven为例,常用打包方式如下: 不加任何插件,直接使用mvn package打包; 使用maven-assembly-plugin插件; 使用maven...

Scala隐式转换和隐式参数

Scala隐式转换和隐式参数

一、隐式转换1.1 使用隐式转换隐式转换指的是以implicit关键字声明带有单个参数的转换函数,它将值从一种类型转换为另一种类型,以便使用之前类型所没有的功能。示例如下: 12345678910111213141516171819/...

Scala类型参数

Scala类型参数

一、泛型Scala支持类型参数化,使得我们能够编写泛型程序。 1.1 泛型类Java中使用<>符号来包含定义的类型参数,Scala则使用[]。 123class Pair[T, S](val first: T, val s...

Scala模式匹配

Scala模式匹配

一、模式匹配Scala支持模式匹配机制,可以代替swith语句、执行类型检查、以及支持析构表达式等。 1.1 更好的swithScala不支持swith,可以使用模式匹配match...case语法代替。但是match语句与Java中...

Scala函数和闭包

Scala函数和闭包

一、函数1.1 函数与方法Scala中函数与方法的区别非常小,如果函数作为某个对象的成员,这样的函数被称为方法,否则就是一个正常的函数。 1234567// 定义方法def multi1(x:Int) = {x * x&#1...

Scala继承和特质

Scala继承和特质

一、继承1.1 Scala中的继承结构Scala中继承关系如下图: Any是整个继承关系的根节点; AnyRef包含Scala Classes和Java Classes,等价于Java中的java.lang.Object; AnyV...

Scala类和对象

Scala类和对象

一、初识类和对象Scala的类与Java的类具有非常多的相似性,示例如下: 1234567891011121314151617181920212223242526272829303132333435363738394041424344...

Scala集合Map & Tuple

Scala集合Map & Tuple

一、映射(Map)1.1 构造Map12345678// 初始化一个空mapval scores01 = new HashMap[String, Int]// 从指定的值初始化Map(方式一)val scores02 = Map("h...

Scala集合List & Set

Scala集合List & Set

一、List字面量List是Scala中非常重要的一个数据结构,其与Array(数组)非常类似,但是List是不可变的,和Java中的List一样,其底层实现是链表。 123456scala> val list = List(...