mogdb是enmotech opengauss database enterprise edition的缩写,是云和恩墨基于opengauss开源数据库进行定制、推出的企业发行版。
它将围绕高可用、安全、自动化运维、数据库一体机和sql审核优化等企业需求,解决企业用户落地。其核心价值是易用性、高性能、高可用等和全天候的企业支持。
上面这段介绍文字,摘录自mogdb官方文档(),字数不多,但却言简意赅、内含丰厚。从以上介绍可知:
1、mogdb是基于华为opengauss开源数据库进行的定制
opengauss是源自于开源数据库中以性能和功能著称的postgresql(简称pg),可以说是系出名门。
opengauss结合企业级场景需求、深度融合了华为在数据库领域的多年经验,是经过华为强大技术力量精心打磨的优秀数据库产品。
2、mogdb是云和恩墨的数据库产品
对于云和恩墨,我想但凡是搞过数据库的小伙伴,都会清楚,这是一家汇集了数据库顶级牛人的技术公司。在数据库领域,堪称是泰山北斗级的存在。
云和恩墨这家以数据库技术著称的公司,打造自家的数据库产品,绝对是经过深思熟虑的。选择在华为opengauss基础上,进一步做企业级应用的定制,可以说,mogdb是建立在高山(postgresql)顶峰(opengauss)之上的高塔。
那么,今天我们就从使用者的角度,用mogdb来实际搭建一套企业应用中最广泛使用的主备数据库集群,来初步感受一下这个雄踞高山之巅,优上加优的国产数据库产品——云和恩墨的mogdb。
主机ip | 网关 | 网卡名 | cpu | 内存 | 磁盘 | os版本 |
192.168.20.171 | 192.168.20.2 | ens32 | 2核 | 4gb | 30gb | centos linux release 7.9.2009 |
192.168.20.172 | ||||||
192.168.20.175(vip) |
1、软件依赖要求
所需软件 | 建议版本 | 安装后的实际版本 |
libaio-devel | 建议版本:0.3.109-13 | libaio-devel-0.3.109-13.el7.x86_64 |
flex | 要求版本:2.5.31 以上 | flex-2.5.37-6.el7.x86_64 |
bison | 建议版本:2.7-4 | bison-3.0.4-2.el7.x86_64 |
ncurses-devel | 建议版本:5.9-13.20130511 | ncurses-devel-5.9-14.20130511.el7_4.x86_64 |
glibc-devel | 建议版本:2.17-111 | glibc-devel-2.17-326.el7_9.x86_64 |
patch | 建议版本:2.7.1-10 | patch-2.7.1-12.el7_7.x86_64 |
redhat-lsb-core | 建议版本:4.1 | redhat-lsb-core-4.1-27.el7.centos.1.x86_64 |
readline-devel | 建议版本:7.0-13 | readline-devel-6.2-11.el7.x86_64 |
openssh | 建议版本 :8.4p1 | openssh-7.4p1-22.el7_9.x86_64 |
expect | 建议版本 :5.45.4 | expect-5.45-14.el7_1.x86_64 |
2、操作系统配置
(1)禁用selinux
sed -i ‘s/^selinux=enforcing/selinux=disabled/g’ /etc/selinux/config
(2)禁用防火墙
systemctl stop firewalld
systemctl disable firewalld
(3)字符集
echo $lang
en_us.utf-8
(4)时区
ls -l /etc/localtime
/etc/localtime -> …/usr/share/zoneinfo/asia/shanghai
(5)关闭swap交换内存(此步可选)
swapoff -a
(6)设置网卡mtu值
将各数据库节点的网卡mtu值设置为相同大小。mtu值推荐8192
对于centos 7,默认没有ifconfig命令,需要先做以下安装:
yum -y install net-tools
然后,执行以下命令设置网卡mtu值:
ifconfig ens32 mtu 8192
(7)关闭removeipc
vi /etc/systemd/logind.conf
removeipc=no
然后执行如下命令生效:
systemctl daemon-reload
systemctl restart systemd-logind
(8)关闭history记录
为避免指令历史记录安全隐患,需关闭各主机的history指令。
vi /etc/profile
histsize=0
然后执行如下命令生效:
source /etc/profile
(9)设置root用户远程登录
vi /etc/ssh/sshd_config
permitrootlogin yes
vim /etc/ssh/sshd_config
注释掉“banner”所在的行
(10)动态关闭使用透明大页
echo never > /sys/kernel/mm/transparent_hugepage/enabled
cat /sys/kernel/mm/transparent_hugepage/enabled
always madvise [never]
3、下载并解压ptk工具包
ptk(provisioning toolkit)是一款针对 mogdb 数据库开发的软件安装和运维工具,可帮助用户更便捷地安装部署mogdb数据库。
ptk的官方文档详见:
ptk下载地址:
解压命令如下:
tar -xzvf ptk_linux_x86_64.tar.gz |
解压后会得到一个名为 ptk 的二进制文件,该文件即为 ptk 的可执行文件。
(1)查看 ptk 版本信息:
命令如下:
ptk -v |
(2)创建并设置拓扑配置文件:
命令如下:
ptk template > config.yaml |
以上配置文件的参数说明如下:
参数名:参数值 | 说明 |
global: | 集群级别的配置信息 |
cluster_name: mogdb_cluster1 | 集群名称,ptk管理的集群的唯一标识 |
user: omm | 运行数据库的操作系统用户名 |
user_password: "ptk6o...w8=" | 数据库的初始用户密码,该字段不支持明文填写,需使用 ptk encrypt password 加密后填写 |
base_dir: /opt/mogdb | 数据库安装的基础目录 |
db_servers: | 集群内的数据库实例服务器配置信息 |
- host: 192.168.20.171 | 数据库实例服务器 ip (仅支持 ipv4) |
db_port: 26000 | 数据库端口号 |
role: primary | 数据库实例角色 |
ssh_option: | ssh 登录信息 |
port: 22 | ssh 服务端口 |
user: root | ssh 登录用户 |
password: "ptk6n...nc=" | ssh 登录用户密码,该字段不支持明文填写,需使用 ptk encrypt password 加密后填写 |
4、安装前的系统检查
在安装数据库之前,需要先对要安装数据库的服务器进行一下系统参数以及软件依赖等检查,确保安装过程可以顺利执行。
检查命令如下:
ptk checkos -f config.yaml -i a --detail |
检查命令的输出结果如下:
上面输出结果的检查类别说明如下:
类别编号 | 类别 | 检查项 | 说明 |
a1 | 系统版本 | check_os_version | 检查系统版本 |
a2 | 内核版本 | check_kernel_version | 检查内核版本 |
a3 | 字符集 | check_unicode | 检查字符集 |
a4 | 时区 | check_timezone | 检查时区 |
a5 | 内存交换区 | check_swap_memory_configure | 检查 swap 内存配置 |
a6 | sysctl参数 | check_sysctl_parameter | 检查 sysctl 参数 |
a7 | 文件系统 | check_filesystem_configure | 检查文件系统配置 |
a8 | 磁盘配置 | check_disk_configure | 检查磁盘配置 |
a9 | 预读块设置 | check_blockdev_configure | 检查块设备配置 |
check_logical_block | 检查逻辑块 | ||
a10 | io调度 | check_io_request | 检查 io 请求参数 |
check_asynchronous_io_request | 检查异步 io 请求参数 | ||
check_io_configure | 检查 io 配置 | ||
a11 | 网络配置 | check_network_configure | 检查网络配置 |
a12 | 时钟一致性 | check_time_consistency | 检查时钟一致性 |
a13 | 防火墙配置 | check_firewall_service | 检查防火墙配置 |
a14 | 透明大页配置 | check_thp_service | 检查透明大页配置 |
a15 | 依赖包 | check_dependent_package | 检查数据库系统安装依赖 |
a16 | cpu指令集 | check_cpu_instruction_set | 检查cpu指令集 |
a17 | 端口状态 | check_port | 检查数据库端口是否被占用 |
ptk 的检查结果分为四个等级:
- ok:符合预期值,满足安装需求
- warning: 不符合预期值,但可以满足安装需求
- abnormal: 不满足安装要求,可能会导致安装过程失败,需根据 ptk 给出的修改建议脚本,人工执行修改
- executeerror: 执行错误,该等级表示 ptk 在检查时执行命令失败,可能为用户环境工具缺失或内部bug,需根据实际错误提示进行修正
5、下载mogdb安装包,并通过ptk安装数据库集群
(1)下载mogdb安装包
下载地址:
选择相应平台的安装包,下载并上传到数据库服库器主机上(只需上传到一台主机上即可)。
(2)通过ptk安装数据库集群
命令如下:
ptk install -f config.yaml --pkg ./mogdb-3.0.1-centos-x86_64.tar.gz |
在安装过中,会要求对集群信息进行确认,如下所示:
随后,会提示输入数据库密码,此密码要符合密码复杂度规则,否则会有如下提示:
此后,ptk就会根据拓扑配置文件,自动向各个节点传送、安装和初始化mogdb数据库实例,如下所示:
ptk完成安装,最后输出的日志内容如下:
可以看到集群的两个节点上的数据库实例已经启动成功了。
此时也可以查看主库和备库的数据库服务进程,如下所示:
主库:
备库:
执行到此处时,我曾经有些疑惑,因为对pg有过一点了解,知道pg是有多个服务进程的,但是mogdb怎么就一个服务进程呢?于是继续查看,如下所示:
主库:
备库:
可以看到mogdb是以更细粒度的多线程方式在运行各个服务,而且服务功能明显多于pg!
通过进一步的了解,知道了opengauss(mogdb)虽然源自于pg,但是不同于pg的多进程服务,opengauss(mogdb)是单进程多线程服务。
线程的启动和切换的开销,都远小于进程。而且一个进程中的多个线程之间使用相同的地址空间,共享大部分数据,线程的数据可以直接为其他线程所用。
因此线程间的数据通信,也比进程间的通信要方便快捷。采用多线程的方式,更能发挥出多核心cpu的运算优势和潜力,更加适合并行计算。
opengauss(mogdb)内核虽然源于postgresql,但是在开发过程中结合企业级场景需求,通过c 语言(postgresql是用c语言写的)对80 %的数据库内核代码进行了重构,修改和新增了70多万行核心代码。
在整体架构、数据库内核三大引擎 (优化器、执行引擎、存储引擎)、事务、以及鲲鹏芯片等方面做了大量的深度优化。例如,通过引入向量化引擎和编译执行引擎等从多个维度重构了执行引擎,通过列存及自适应压缩等全新重构了存储引擎。除了数据库内核,在高可用、数据库安全和ai特性方面,opengauss(mogdb)也做了极大的增强。可以看到opengauss(mogdb)对pg的内核做了非常大的改造和增强。
通过以上实验场景所列出的mogdb的服务线程也可以看到,除了pg原有的服务功能外,还增加很多服务功能,由于目前我还没有深入学习,但是从线程的字面,可以粗略的猜测出其功能,比如:
jemolloc_bg_thd,猜测是采用jemolloc内存分配方式的后台线程;
alarm,猜测是告警检查线程;
reaper,猜测是资源回收线程
jobscheduler,猜测是后台定时任务服务线程;
ashworker,猜测是类似于oracle ash活动会话历史信息采集线程;
auditor,猜测是审计日志线程;
2pccleaner,猜测是两阶段清理线程
通过翻看mogdb的官方文档,了解到mogdb在“ai4db:数据库自治运维”、“db4ai:数据库驱动ai”、“ai in db:数据库内ai功能”,以及“数据库安全管理(密态等值查询、账本数据库、透明数据加密)”等重要方面做了大量的研发和优化工作,这些都是更加符合企业级应用的重要特色和亮点。在此真的为华为和云和恩墨赞叹!
6、查看集群信息
(1)查看集群列表
命令如下:
ptk ls |
(2)查看集群状态
命令如下:
ptk cluster status --name mogdb_cluster1 |
7、登录数据库
命令如下:
su - omm gsql -d postgres -p 26000 |
登录后,就可以进行相关的数据库操作了,如下所示:
8、测试主备库数据同步
(1)在主库创建测试用的数据库和数据表并插入测试数据
(2)在备库,查看验证是否正常同步了主库的测试数据库和表数据
1、mogha介绍
mogha 是云和恩墨基于 mogdb 同步异步流复制技术自研的一款保障数据库主备集群高可用的企业级软件系统。适用于 mogdb 和 opengauss 数据库。
mogha 能够自主探测故障实现故障转移,虚拟ip自动漂移等特性,使得数据库的故障持续时间从分钟级降到秒级(rpo=0,rto<30s),确保数据库集群的高可用服务。
关于mogha更详细的介绍,请看官方文档:
2、为什么数据库支持主备,还需要 mogha?
首先我们需要理解一下什么是高可用,高可用的目的是为了让数据库尽可能提供连续服务,以保证上层业务的稳定运行。数据库虽然支持主备库的部署结构,其目的是防止单点故障。但数据库并不提供故障检测以及自动化切换主备的功能,这也不属于数据库的处理范畴。所以需要有 mogha 这样的一套高可用系统,来保证数据库服务的连续性。
3、mogha系统架构示意
4、mogha支持的模式
(1)lite 模式(推荐)
lite 模式,顾名思义即轻量级模式,该模式仅需在主库和一台同步备机器上启动 mogha 服务,此时 mogha 服务可以保证这两台机器上数据库实例的高可用,当主库发生不可修复的问题或者网络隔离时,mogha 可以自主地进行故障切换和虚拟ip漂移。
(2)full 模式
full模式相较于 lite 模式,需要在所有实例机器上运行 mogha 服务,且所有的实例有由 mogha 来自动管理,当出现主库故障时,会优先选择本机房同步备进行切换,如果本机房同步备也是故障的情况,会选择同城备机房的同步备进行切换。为了达到rpo=0,mogha 不会选择异步备库进行切换,以防止数据丢失。该模式会在主备切换时,会自动修改数据库的复制连接及同步备列表配置。
5、安装mogha的系统环境要求
(1)gsql, gs_ctl 可以免密执行
查看pg_hba.conf 认证文件,确认本地连接的校验方式为 trust
命令如下:
su - omm vi /opt/mogdb/data/pg_hba.conf |
测试确认,可以免密执行:
gs_ctl query |
(2)设置数据库安装用户的 sudo 权限
vi /etc/sudoers
加入如下内容:
omm all=(all) nopasswd: /usr/sbin/ifconfig
(3)确认mogha通信端口畅通(未被占用)
mogha 需要一个固定的端口(默认为 8081,可配置,修改配置文件中的 agent_port)用于不同节点的 mogha 之间通信,所以需确认要配置的端口可以在节点直接互相访问。
(4)校对时间
使用 ntp 或 chronyd 校对主库和备库的时间。确保主库和备库的时间一致。
6、mogha的安装步骤
! 注意:安装过程请使用 root 用户进行操作,涉及到给数据库安装用户sudo权限以及注册系统服务。
(1)下载并解压mogha安装包
下载地址:
解压命令如下:
tar -zxvf mogha-2.3.6-centos-x86_64.tar.gz -c /home/omm |
(2)安装 mogha 服务
命令如下:
cd /home/omm/mogha sudo ./install.sh omm /opt/mogdb/data |
安装过程输出的日志信息如下:
(3)完善 node.conf 配置
执行完mogha安装脚本后,不要立即启动 mogha 服务,需要先完善配置文件,然后再启动服务。
命令如下:
su - omm vi /home/omm/mogha/node.conf |
对node.conf配置文件调整的内容如下:
(4)启动mogha 服务,并查看服务状态
命令如下:
sudo systemctl start mogha |
查看mogha服务状态,命令如下:
sudo systemctl status mogha |
通过查看以上mogha的服务状态,可以看到其主要的服务进程。
(5)设置mogha服务开机自启
命令如下:
sudo systemctl enable mogha |
(6)mogha的日志文件:
- mogha_heartbeat.log
这个日志文件会存放在安装目录中,在本示例中为 /home/omm/mogha,这个日志主要记录ha的心跳日志,也是排查问题主要的优先检查的日志文件。
查看此日志文件内容的命令如下:
sudo more /home/omm/mogha/mogha_heartbeat.log |
- mogha_web.log
这个日志文件存放目录和心跳日志相同。这个日志主要记录 web api 接口的请求日志。
查看此日志文件内容的命令如下:
more /home/omm/mogha/mogha_web.log |
在此我有个疑问:以上两个日志文件实时记录着心跳和请求,文件大小一直在增长,如果在生产环境中,是否要做定期的文件清理策略?
7、查看mogha管理的vip
可以看到当前vip(192.168.20.175)在主库的网卡上。
8、mogha模拟故障测试
(1)模拟主库宕机
直接停止主库所在主机的运行,模拟主库所在主机宕机。
(2)查看vip
在主库主机宕机后,稍后查看vip已经飘移到另一个可用的节点上,如下所示:
(3)重启主库主机
由于设置了mogha服务开机自启动。因此在主机启动后,自动拉起了mogha服务。而mogha服务又拉起了mogdb数据库服务。
此时再查看集群状态,如下:
可以看到集群各节点的数据库服务已经恢复正常。但由于原来的主库宕机,导致原来的备库转换成为主库角色。
而原来的主库在宕机恢复后,就成为了备库角色。
mogha高可用服务,更是大大加强了企业级数据库应用的高可用性。整个体验过程,让我直观的感受到了mogdb的安稳易用。
透过这良好的使用体验,我知道这是国产数据库人,用努力拼搏洒下的艰辛汗水和一路走来的坚定步伐,所踏就铸成了今天的平坦之路。做为国人一员,我为有这样的国产数据库,而感到骄傲!
借此次“首届mogdb征文活动”的大好时机,我认真地学习了mogdb官方文档,并通过做实验有了更进一步的了解,在对mogdb有了些许认知的基础上,整理了以上的文字。希望对准备学习mogdb的小伙伴有所帮助。
另外,也把这些文字做为引玉之砖,一方面请老师和同学们帮我纠正文中可能存在的错误,另一方面也希望在墨天轮上看到更多、更充实、更深入的关于mogdb的文章。
对于mogdb数据库,各位小伙伴,是不是已经心动了。如果想尝试,又苦于没有资源环境,那么可以使用墨天轮提供的mogdb 3.0 在线实训环境,网址如下:
https://www.modb.pro/terminal
让我们共同学习、共同进步,共同为国产数据库技术的发展助力、加油!