欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 文旅 > 美景 > 大数据实训项目(小麦种子)-04、大数据实训项目JavaWeb环境搭建

大数据实训项目(小麦种子)-04、大数据实训项目JavaWeb环境搭建

2024/10/24 13:27:26 来源:https://blog.csdn.net/cl939974883/article/details/139706037  浏览:    关键词:大数据实训项目(小麦种子)-04、大数据实训项目JavaWeb环境搭建

文章目录

  • 前言
  • 运行前准备工作
    • 1、安装Hadoop3.1.0配置winutils
      • 原因描述
      • 配置方式
      • 注意点(hadoop.dll拷贝System32目录下)
    • 2、hive运行报错(The dir: /tmp/hive on HDFS should be writable. )
  • 项目环境搭建
  • 参考资料

前言

博主介绍:✌目前全网粉丝3W+,csdn博客专家、Java领域优质创作者,博客之星、阿里云平台优质作者、专注于Java后端技术领域。

涵盖技术内容:Java后端、大数据、算法、分布式微服务、中间件、前端、运维等。

博主所有博客文件目录索引:博客目录索引(持续更新)

视频平台:b站-Coder长路

本期大数据实战项目功能演示及环境搭建教程(b站):https://www.bilibili.com/video/BV1F6421V7dY


运行前准备工作

1、安装Hadoop3.1.0配置winutils

原因描述

同可见类似博文:https://blog.csdn.net/lvoelife/article/details/133349627

若是不安装对应hadoop的winutils会出现报错not found,在初始化的时候。


配置方式

①解压3.1.0的haodoop压缩包

将本期虚拟机安装Hadoop压缩包解压:

image-20240608002209190

②配置指定Hadoop版本的winutils工具

接着去github下载相应你对应Hadoop的版本:https://github.com/cdarlint/winutils

image-20240608002343792

我给到的软件包已经把winutils下载下来了,解压就在里面:

image-20240608002421879

操作内容:打开winutils文件,把指定hadoop3.1.0里面的bin文件复制到hadoop的安装路径,替换掉原来的bin文件

替换原本hadoop3.1.0的bin目录(目前我修改了路径hadoop3的目录),替换即可:

image-20240608002453498

③配置Hadoop的环境变量

image-20240608002620705

HADOOP_HOME
D:\softwares\Java\server\hadoop\hadoop-3.1.0

配置完成,之后window环境web项目上传文件的时候会取到这个环境变量来定位bin目录去执行winutils。


注意点(hadoop.dll拷贝System32目录下)

注意:将替换后的hadoop-3.1.0中的bin文件夹下的hadoop.dll拷贝到C:\Windows\System32目录下。

image-20240608154050305


2、hive运行报错(The dir: /tmp/hive on HDFS should be writable. )

出现问题:

  1. IDEA连接不上hive。
  2. 当前服务器运行hive出现下面报错。

image-20240608161139516

解决方案:

hadoop fs -chmod -R 777 /tmp

项目环境搭建

准备内容:tomcat8.5.72、JDK

项目导入见B站第一集:

image-20240614221115264

导入之后先将运行前准备工作做好,接着往下:

1、首先将虚拟机上的所有服务启动好。

2、将IDEA中小麦种子的IP地址全部替换为虚拟机的IP地址,接着即可将web服务启动,进行功能实操。

整个实操见第二个文档:02、大数据实训项目(小麦种子)功能演示


参考资料

[1]. Eclipse配置本地Hadoop开发环境 解决Hadoop问题—HADOOP_:https://download.csdn.net/blog/column/9816387/105248496

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com