本篇文章给大家分享的是有关zeppelin中怎么配置 spark,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。修改zeppelin 配置文件在zeppelin-env.sh中添
本篇文章给大家分享的是有关zeppelin中怎么配置 spark,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。
在zeppelin-env.sh中添加spark路径和hadoop配置文件路径
export SPARK_HOME=/usr/lib/sparkexport HADOOP_CONF_DIR=/usr/lib/hadoop
master 可以为:
local[*] in local modespark://master:7077 in standalone clusteryarn-client in Yarn client modeyarn-cluster in Yarn cluster modemesos://host:5050 in Mesos cluster
我这里是 spark on yarn 所以我配置的 master 为yarn,提交模式为 cluster,我设置为 client 的时候运行任务一直卡着不动
我这里是在Docker里搭建的,中间还报了其它的错
java.lang.RuntimeException: org.apache.zeppelin.interpreter.InterpreterException: org.apache.thrift.transport.TTransportException: java.net.ConnectException: Connection refused
后来发现是AM无法实例化的原因
host -i
发现docker 里是一个虚拟ip
解决方法:
启动docker时指定网络连接方式
host模式 :docker run 使用 --net=host指定docker使用的网络实际上和宿主机一样
以上就是zeppelin中怎么配置 spark,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注编程网精选频道。
--结束END--
本文标题: zeppelin中怎么配置 spark
本文链接: https://www.lsjlt.com/news/295311.html(转载时请注明来源链接)
有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341
下载Word文档到电脑,方便收藏和打印~
2024-05-24
2024-05-24
2024-05-24
2024-05-24
2024-05-24
2024-05-24
2024-05-24
2024-05-24
2024-05-24
2024-05-24
回答
回答
回答
回答
回答
回答
回答
回答
回答
回答
0