doris 部署centos
作者:互联网
官网地址:https://doris.apache.org/master/zh-CN/downloads/downloads.html
1.利用了百度的doris 版本
版本号 | 大小 | 下载链接 | 更新时间 |
---|---|---|---|
0.12.21 | 447MB | Link | 2020-08-11 |
0.13.15 | 554MB | Link | 2021-01-05 |
0.14.7 | 611MB | Link | 2021-04-06 |
0.14.12.4 | 783MB | Link | 2021-06-22 |
0.14.13.1 | 847MB | Link | 2021-09-17 |
0.14.13.1-no-avx2 | 847MB | Link | 2021-09-17 |
0.15.1-rc09 | 1.05GB | Link | 2021-11-15 |
0.15.1-rc09-no-avx2 | 1.05GB | Link | 2021-11-15 |
0.14.13.1 及之后的版本需要运行环境的 CPU 支持 avx2 指令,你可以通过 cat /proc/cpuinfo
查看是否支持。如果不支持,请使用带 no-avx2
后缀的版本。avx2 指令会显著提升 bloomfilter 等数据结构的计算效率,从而影响索引过滤、runtime filter 等功能的效率。arm
版本为实验性质版本,用在以 ARM 环境下运行 Palo。欢迎下载使用并在 Discussions 反馈问题。
0.14.13.1 = https://palo-cloud-repo-bd.bd.bcebos.com/baidu-doris-release/PALO-0.14.13.1-release-binary.tar.gz
0.14.13.1 -no-avx2=https://palo-cloud-repo-bd.bd.bcebos.com/baidu-doris-release/PALO-0.14.13.1-release-no-avx2-binary.tar.gz
二.在centos上下载后
下载: wget https://palo-cloud-repo-bd.bd.bcebos.com/baidu-doris-release/PALO-0.14.13.1-release-binary.tar.gz
解压:tar -xzvf PALO-0.14.13.1-release-binary.tar.gz
修改名字:mv PALO-0.14.13.1-release-binary Doris-0.14.13.1
doris 需要java_jdk8;
需要安装jdk 8;
-
配置 FE
-
配置文件为 conf/fe.conf。其中注意:
meta_dir
是元数据存放位置。默认值为${DORIS_HOME}/doris-meta
。需手动创建该目录。注意:生产环境强烈建议单独指定目录不要放在Doris安装目录下,最好是单独的磁盘(如果有SSD最好),测试开发环境可以使用默认配置
-
fe.conf 中 JAVA_OPTS 默认 java 最大堆内存为 4GB,建议生产环境调整至 8G 以上。
-
-
启动FE
sh bin/start_fe.sh --daemon
FE进程启动进入后台执行。日志默认存放在 log/ 目录下。如启动失败,可以通过查看 log/fe.log 或者 log/fe.out 查看错误信息。
查看是否运行成成功
利用mysql 客户端连接 FE
mysql -h 192.168.0.11 -P9030 -uroot
查看状态 Alive:true 表示正常
mysql> SHOW PROC '/frontends'\G
*************************** 1. row ***************************
Name: 192.168.0.11_9010_1641534384317
IP: 192.168.0.11
HostName: instance-0k9n9mw6
EditLogPort: 9010
HttpPort: 8030
QueryPort: 9030
RpcPort: 9020
Role: FOLLOWER
IsMaster: true
ClusterId: 2096529762
Join: true
Alive: true
ReplayedJournalId: 382
LastHeartbeat: 2022-01-07 14:07:35
IsHelper: true
ErrMsg:
Version: 0.14.13.1-Unknown
1 row in set (0.03 sec)
BE 部署
-
拷贝 BE 部署文件到所有要部署 BE 的节点
将源码编译生成的 output 下的 be 文件夹拷贝到 BE 的节点的指定部署路径下。
-
修改所有 BE 的配置
修改 be/conf/be.conf。主要是配置
storage_root_path
:数据存放目录。默认在be/storage下,需要手动创建该目录。多个路径之间使用英文状态的分号;
分隔(最后一个目录后不要加;
)。可以通过路径区别存储目录的介质,HDD或SSD。可以添加容量限制在每个路径的末尾,通过英文状态逗号,
隔开。示例1如下:
注意:如果是SSD磁盘要在目录后面加上
.SSD
,HDD磁盘在目录后面加.HDD
storage_root_path=/home/disk1/doris.HDD,50;/home/disk2/doris.SSD,10;/home/disk2/doris
说明
- /home/disk1/doris.HDD, 50,表示存储限制为50GB, HDD;
- /home/disk2/doris.SSD 10, 存储限制为10GB,SSD;
- /home/disk2/doris,存储限制为磁盘最大容量,默认为HDD
示例2如下:
- cat /sys/block/vda/queue/rotational
返回值0:ssd盘
返回值1:hdd盘 -
注意:不论HHD磁盘目录还是SSD磁盘目录,都无需添加后缀,storage_root_path参数里指定medium即可
storage_root_path=/home/disk1/doris,medium:hdd,capacity:50;/home/disk2/doris,medium:ssd,capacity:50
说明
- /home/disk1/doris,medium:hdd,capacity:10,表示存储限制为10GB, HHD;
- /home/disk2/doris,medium:ssd,capacity:50,表示存储限制为50GB, SSD;
-
BE webserver_port端口配置
如果 be 部署在 hadoop 集群中,注意调整 be.conf 中的
webserver_port = 8040
,以免造成端口冲突 -
在 FE 中添加所有 BE 节点
BE 节点需要先在 FE 中添加:
./mysql-client -h host -P port -uroot
其中 host 为 FE 所在节点 ip;port 为 fe/conf/fe.conf 中的 query_port;默认使用 root 账户,无密码登录。
登录后,执行以下命令来添加每一个 BE:
ALTER SYSTEM ADD BACKEND "host:port";
-
alter system add backend "192.168.0.74:9050"; 添加 be
-
ALTER SYSTEM DROPP BACKEND "192.168.0.74:9050"; 删除be
-
其中 host 为 BE 所在节点 ip;port 为 be/conf/be.conf 中的 heartbeat_service_port。
-
启动 BE
sh bin/start_be.sh --daemon
BE 进程将启动并进入后台执行。日志默认存放在 be/log/ 目录下。如启动失败,可以通过查看 be/log/be.log 或者 be/log/be.out 查看错误信息。
-
查看BE状态
使用 mysql-client 连接到 FE,并执行
SHOW PROC '/backends';
查看 BE 运行情况。如一切正常,isAlive
列应为true
。
查看状态
mysql> SHOW PROC '/backends'\G *************************** 1. row *************************** BackendId: 10003 Cluster: default_cluster IP: 192.168.0.74 HostName: instance-709sbyb5-2.bj.baidu.internal HeartbeatPort: 9050 BePort: 9060 HttpPort: 8040 BrpcPort: 8060 LastStartTime: 2022-01-07 15:04:32 LastHeartbeat: 2022-01-07 15:04:52 Alive: true SystemDecommissioned: false ClusterDecommissioned: false TabletNum: 0 DataUsedCapacity: .000 AvailCapacity: 1.000 B TotalCapacity: .000 UsedPct: 0.00 % MaxDiskUsedPct: 0.00 % ErrMsg: Version: 0.14.13.1-Unknown Status: {"lastSuccessReportTabletsTime":"N/A","lastStreamLoadTime":-1} 1 row in set (0.00 sec)
标签:centos,部署,0.14,conf,SSD,home,doris,13.1 来源: https://www.cnblogs.com/elsons/p/15775441.html