学习大数据之前要打什么基础?
一、学习大数据需要的基础
1、java SE、EE(SSM)
90%的大数据框架都是java写的
2、mysql
SQL on Hadoop
3、Linux
大数据的框架安装在Linux操作系统上
在有了上面的技术基础支撑之后,便可以开始我们的大数据开发工程师的锻造之旅了,可以根据以下三个大的方面进行学习,当然了,中间需要穿插一些项目练习,将理论和实战相关联才能成长的很快!
二、大数据技术需要学什么
1、大数据离线分析
一般处理T+1数据(T:可能是1天、一周、一个月、一年)
a、Hadoop :一般不选用新版本,踩坑难解决
(common、HDES、MapReduce、YARN)
环境搭建、处理数据的思想
b、Hive:大数据的数据仓库
c、HBase:基于HDFS的NOSQL数据库
面向列存储
d、协作框架:
sqoop(桥梁:HDFS《==》RDBMS)
flume:搜集日志文件中的信息
e、调度框架
anzkaban
了解:crotab(Linux自带)
zeus(Alibaba)
Oozie(cloudera)
f、前沿框架扩展:
kylin、impala、ElasticSearch(ES)
2、大数据实时分析
以spark框架为主
Scala:OOP(面向对象程序设计)+FP(函数是程序设计)
sparkCore:类比MapReduce
sparkSQL:类比hive
sparkStreaming:实时数据处理
kafka:消息队列
前沿框架扩展:flink
阿里巴巴:blink
3、大数据机器学习
spark MLlib:机器学习库
pyspark编程:Python和spark的结合
以上就是大数据的学习路线,有兴趣的朋友,也可以了解下人工智能和物联网。
在不久的将来,多智时代一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏多智时代,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来
基本的网络和TCP-IP协议知识要有认知
编程,数据处理规则
心态。先要平下心来。
多喝点恢复恢复得好的话
各种数学基础,计算机基础~~~文字基础。
上一篇:按钮HEA292DC24V