博学谷 > 资讯 > 大数据 > 大数据开发常用的工具介绍

原创 大数据开发常用的工具介绍

发布时间:2020-07-02 13:49:48 浏览 557 来源:博学谷 作者:吾非鱼

      Java语言和 Linux操作系统,它们是学习大数据的基础。

     

    <a href = 'https://www.boxuegu.com/news/data/' target='_blank' style='color: #466de2;font-size: 14px'>大数据</a>开发常用的工具
      java:只需了解一些基本知识,不需要用很深的Java技术来做大数据,学习 java SE等于学习大数据基础。


      Linux:因为与大数据有关的软件都在 Linux上运行,所以 Linux要学扎实一点,学好Linux对你快速掌握与大数据有关的技术,能让你更好地了解 hadoop, hive, hbase, spark等大数据软件的运行环境和网络环境配置,能少走很多弯路,学会 shell可以更轻松地理解和配置大数据集群。同时也可以让你更快地了解到未来大数据技术的发展。


      hadoop:这是一个流行的大数据处理平台,它几乎成了大数据的代名词,所以一定要学习它。在Hadoop中包含了HDFSMapReduce和 YARN这三个组件, HDFS就像我们电脑硬盘上的文件一样存储在这些文件中, MapReduce用来处理数据,而 MapReduce用来计算数据,它的一个特点是,不管数据多大,只要给它时间, MapReduce就可以运行数据,但时间可能不会太快,因此它称之为数据的批量处理。


      Zookeeper:这是一个万金油,当你安装 Hadoop的 HA时就可以使用它,Hbase以后也可以使用。该软件通常用于存储一些相互协作的信息,这些信息一般不会超过1 M,所有使用该软件的软件都依赖于此,对于我们个人来说,只需正确安装该软件,使其正常运行即可。


      mysql:我们学习了大数据处理,然后学习了 mysql数据库处理小数据的工具,因为现在还在使用 mysql, mysql需要掌握多少层那?您可以在 Linux上安装、运行它,配置简单的权限、修改 root密码、创建数据库。在这里,我们主要学习 SQL的语法,因为 hive的语法非常类似于此。


      sqoop:此文件用于从 Mysql导入数据到 Hadoop。同样的,您也可以不用它,直接将 Mysql数据表导出为文件放入 HDFS,当然,在生产环境中使用 Mysql时也要小心。


      Hive:这是一款非常适合使用 SQL语法的工具,可以使您轻松地处理大量数据,并且无需编写 MapReduce程序。有人说皮格是吗?跟 Pig差不多掌握其中一项。


      现在你已经学会了 Hive,我相信你一定需要这款软件,它可以帮助你管理 Hive或 MapReduce,Spark脚本,还可以检查你的程序是否正确运行,如果出现错误,向你发送警报并重新尝试程序,最重要的是,它还可以帮助你配置任务的依赖性。你肯定会喜欢它的,否则你就会看着一大堆脚本,密密麻麻地写着 crond。


      hbase:这是 Hadoop生态系统中的 NOSQL数据库,他的数据以 key和 value的形式存储, key是惟一的,因此它可以用于数据的重排,与 MYSQL相比,它可以存储大量的数据。因此,他经常在处理完大数据后用于存储目的地。


      Kafka:这是一个更好的队列工具,为什么要使用队列呢?更多的数据也同样需要排队,例如,数百G文件如何处理,当您将数据逐个放到队列中时,您可以将其逐个取出,当然,您还可以使用该工具对在线实时数据进行入库或加入 HDFS,此时您可以与一个名为 Flume的工具协作,该工具专门用于提供对数据的简单处理,并将其写入各种数据接收者(如 Kafka)。


      Spark:它用来弥补基于 MapReduce的数据处理速度的不足,它的特点是将数据装入内存中进行计算,而不是去读慢的、会导致死机的、进化也特别慢的硬盘。尤其适用于迭代运算,其中算法的优化是核心。JAVA或 Scala都能操纵它。

    申请免费试学名额    

在职想转行提升,担心学不会?根据个人情况规划学习路线,闯关式自适应学习模式保证学习效果
讲师一对一辅导,在线答疑解惑,指导就业!

领取成功
领取失败
上一篇:深度学习工程师必须掌握的神经网络架构 下一篇:大数据分析软件有哪些?

相关推荐 更多

最新文章

扫描二维码,回复"大数据"获取20G资料包