IT博客汇
  • 首页
  • 精华
  • 技术
  • 设计
  • 资讯
  • 扯淡
  • 权利声明
    • 登录 注册

    GreatSQL MGR FAQ

    叶金荣发表于 2021-12-11 00:51:34
    love 0

    关于GreatSQL及MGR的FAQ，持续更新中。

    Last Update: 2021.12.14。

    0. GreatSQL简介

    GreatSQL是由万里数据库维护的MySQL分支，开源、免费。GreatSQL基于Percona Server，在其基础上进一步提升MGR（MySQL Group Replication）的性能及可靠性。此外，GreatSQL合并了华为鲲鹏计算团队贡献的Patch，实现了InnoDB并行查询特性，以及对InnoDB事务锁的优化。

    GreatSQL可以作为MySQL或Percona Server的可选替代方案，用于线上生产环境。

    GreatSQL完全免费并兼容MySQL或Percona Server。

    1. GreatSQL的特色有哪些

    相对于MySQL官方社区版，GreatSQL有以下几个优势：

    • InnoDB性能更好
      • 支持InnoDB并行查询，TPC-H测试中平均提升聚合分析型SQL性能15倍，最高提升40多倍。
      • 优化InnoDB事务锁，tps性能可提升约10%。
    • MGR更可靠、稳定，性能也更好。
      • MGR中引入地理标签特性，主要用于解决多机房数据同步的问题。
      • MGR中优化了流控算法，运行更加平稳。
      • 解决磁盘空间爆满时导致MGR集群阻塞的问题。
      • 解决MGR多主模式下或切主时可能导致丢数据的问题。
      • 解决节点异常退出MGR集群时导致性能抖动的问题。
      • MGR节点异常状态判断更完善。
      • 重新设计MGR事务认证队列清理算法，不复存在每隔60秒性能抖动的问题。
      • 修复了recovery过程中长时间等待的问题。
      • 修复了传输大数据可能导致逻辑判断死循环问题。
      • 修复了多数派节点不同类型异常退出集群导致的视图更新的问题。

    无论是更可靠的MGR还是性能更好的InnoDB，都值得将当前的MySQL或Percona Server升级到GreatSQL。

    关于GreatSQL的优势可阅读下面几篇文章：

    • GreatSQL 更新说明 8.0.25
    • GreatSQL重磅特性，InnoDB并行并行查询优化测试
    • 面向金融级应用的GreatSQL正式开源

    2. GreatSQL在哪里可以下载

    二进制包、RPM包

    二进制包下载地址：https://gitee.com/GreatSQL/GreatSQL/releases。

    目前提供CentOS 7、CentOS 8两种操作系统，以及X86和ARM两种不同架构下的二进制包、RPM包。

    带 minimal 关键字的安装包是对二进制文件进行strip后，所以文件尺寸较小，功能上没本质区别，仅是不支持gdb debug功能，可以放心使用。

    源码

    可以直接用git clone的方式下载GreatSQL源码，例如：

    # 可从gitee下载
$ git clone https://gitee.com/GreatSQL/GreatSQL.git

# 或从github下载
$ git clone https://github.com/GreatSQL/GreatSQL.git

    Ansible安装包

    GreatSQL提供Ansible一键安装包，可在gitee或github下载：

    • https://gitee.com/GreatSQL/GreatSQL-Ansible/releases
    • https://github.com/GreatSQL/GreatSQL-Ansible/releases

    Docker镜像

    GreatSQL提供Docker镜像，可直接从docker hub拉取：

    # 直接下载最新版本
$ docker pull docker.io/greatsql/greatsql

# 或自行指定版本
$ docker pull docker.io/greatsql/greatsql:8.0.25

# 或指定ARM版本
$ docker pull docker.io/greatsql/greatsql:8.0.25-aarch64

    3. 使用GreatSQL遇到问题时找谁

    使用GreatSQL过程中如果遇到问题，可将问题细节整理清楚后，联系GreatSQL社区寻求帮助。

    扫码添加GreatSQL社区助手
    GreatSQL社区微信小助手

    或扫码加入GreatSQL社区QQ群（533341697）
    GreatSQL社区QQ群

    此外，我们已经在B站发布MGR相关系列视频，可以前往学习，视频链接：https://space.bilibili.com/1363850082 。

    4. GreatSQL版本计划是怎样的

    GreatSQL不计划每个小版本都跟随，暂定奇数版本跟随方式，即 8.0.25、8.0.27、8.0.29 … 以此类推。

    未来若有版本计划变更我们再更新。

    5. GreatSQL支持读写分离吗

    可以利用MySQL Router来实现读写分离。

    6. 可以使用MySQL Shell来管理GreatSQL吗

    是可以的，最好采用相同版本号的MySQL Shell即可。

    7. 使用MGR有什么限制吗

    下面是关于MGR使用的一些限制：

    • 所有表必须是InnoDB引擎。可以创建非InnoDB引擎表，但无法写入数据，在利用Clone构建新节点时也会报错。
    • 所有表都必须要有主键。同上，能创建没有主键的表，但无法写入数据，在利用Clone构建新节点时也会报错。
    • 不要使用大事务，默认地，事务超过150MB会报错，最大可支持2GB的事务（在GreatSQL未来的版本中，会增加对大事务的支持，提高大事务上限）。
    • 如果是从旧版本进行升级，则不能选择 MINIMAL 模式升级，建议选择 AUTO 模式，即 upgrade=AUTO。
    • 由于MGR的事务认证线程不支持 gap lock，因此建议把所有节点的事务隔离级别都改成 READ COMMITTED。基于相同的原因，MGR集群中也不要使用 table lock 及 name lock（即 GET_LOCK() 函数 ）。
    • 在多主（multi-primary）模式下不支持串行（SERIALIZABLE）隔离级别。
    • 不支持在不同的MGR节点上，对同一个表分别执行DML和DDL，可能会造成数据丢失或节点报错退出。
    • 在多主（multi-primary）模式下不支持多层级联外键表。另外，为了避免因为使用外键造成MGR报错，建议设置 group_replication_enforce_update_everywhere_checks=ON。
    • 在多主（multi-primary）模式下，如果多个节点都执行 SELECT ... FOR UPDATE 后提交事务会造成死锁。
    • 不支持复制过滤（Replication Filters）设置。

    看起来限制有点多，但绝大多数时候并不影响正常的业务使用。

    此外，想要启用MGR还有几个要求：
    – 每个节点都要启用binlog。
    – 每个节点都要转存binlog，即设置 log_slave_updates=1。
    – binlog format务必是row模式，即 binlog_format=ROW。
    – 每个节点的 server_id 及 server_uuid 不能相同。
    – 在8.0.20之前，要求 binlog_checksum=NONE，但是从8.0.20后，可以设置 binlog_checksum=CRC32。
    – 要求启用 GTID，即设置 gtid_mode=ON。
    – 要求 master_info_repository=TABLE 及 relay_log_info_repository=TABLE，不过从MySQL 8.0.23开始，这两个选项已经默认设置TABLE，因此无需再单独设置。
    – 所有节点上的表名大小写参数 lower_case_table_names 设置要求一致。
    – 最好在局域网内部署MGR，而不要跨公网，网络延迟太大的话，会导致MGR性能很差或很容易出错。
    – 建议启用writeset模式，即设置以下几个参数
    – slave_parallel_type = LOGICAL_CLOCK
    – slave_parallel_workers = N，N>0，可以设置为逻辑CPU数的2倍
    – binlog_transaction_dependency_tracking = WRITESET
    – slave_preserve_commit_order = 1
    – slave_checkpoint_period = 2

    8. MGR最多可支持多少个节点

    MGR最多可支持9个节点，无论是单主还是多主模式。

    9. MGR可以设置为自启动吗

    设置参数 group_replication_bootstrap_group=ON 即可。但是当MGR第一个节点初始化启动时，或者整个MGR集群都关闭再重启时，第一个节点都必须先采用引导模式 group_replication_bootstrap_group=ON。

    10. MGR支持读负载均衡吗

    支持的。可以在MGR集群的前端挂载MySQL Router，即可实现读负载均衡。

    11. MGR支持写负载均衡吗

    不支持。由于MGR采用shared nothing模式，每个节点都存储全量数据，因此所有写入每个节点都要再应用一次。

    12. MGR相对传统主从复制是不是会更耗CPU、内存和带宽等资源

    一定程度上来说，是的。因为MGR需要在多个节点间进行事务冲突检测，不过这方面的开销有限，总体来说也还好。

    13. 为什么启动MGR后，多了个33061端口

    当启用MGR服务后，MySQL会监听33061端口，该端口用于MGR节点间的通信。因此当服务器间有防火墙策略时，记得针对该端口开放。

    当然了，可自行定义该端口，例如 group_replication_local_address=192.168.0.1:33062。

    14. 部署MGR时，务必对所有节点都设置hostname吗

    这个不是必须的。

    之所以要在每个节点上都加上各节点的hostname对照表，是因为在MGR节点间通信过程中，可能收到的主机名和本地实际配置的不一致。

    这种情况下，也可以在每个节点上自行设置 report_host 及 report_port 来解决这个问题。

    15. 可以跨公网部署MGR吗

    可以的，但非常不推荐。

    此外，由于MGR默认的allowlist不包含公网地址，因此需要将公网地址加进去，例如：

    group_replication_ip_allowlist='192.0.2.0/24, 114.114.114.0/24'

    顺便提醒下，MGR默认的allowlist范围（group_replication_ip_allowlist=AUTOMATIC）是以下几个

    IPv4 (as defined in RFC 1918)
10/8 prefix       (10.0.0.0 - 10.255.255.255) - Class A
172.16/12 prefix  (172.16.0.0 - 172.31.255.255) - Class B
192.168/16 prefix (192.168.0.0 - 192.168.255.255) - Class C

IPv6 (as defined in RFC 4193 and RFC 5156)
fc00:/7 prefix    - unique-local addresses
fe80::/10 prefix  - link-local unicast addresses

127.0.0.1 - localhost for IPv4
::1       - localhost for IPv6

    有时候docker容器的IP地址不在上述范围中，也会导致MGR服务无法启动。

    16. 怎么查看MGR当前是单主还是多主模式

    执行下面的命令：

    [root@GreatSQL]> SELECT * FROM performance_schema.replication_group_members;
+---------------------------+-----------...-+-------------+--------------+-------------+----------------+
| CHANNEL_NAME              | MEMBER_ID ... | MEMBER_PORT | MEMBER_STATE | MEMBER_ROLE | MEMBER_VERSION |
+---------------------------+-----------...-+-------------+--------------+-------------+----------------+
| group_replication_applier | 4ebd3504-1... |        3306 | ONLINE       | SECONDARY   | 8.0.25         |
| group_replication_applier | 549b92bf-1... |        3307 | ONLINE       | SECONDARY   | 8.0.25         |
| group_replication_applier | 5596116c-1... |        3308 | ONLINE       | SECONDARY   | 8.0.25         |
| group_replication_applier | ed5fe7ba-3... |        3309 | ONLINE       | PRIMARY     | 8.0.25         |
+---------------------------+-----------...-+-------------+--------------+-------------+----------------+

    如果只看到一个节点的 MEMBER_ROLE 值为 PRIMARY，则表示这是单主模式。如果看到所有节点上该状态值均为 PRIMARY，则表示这是多主模式。

    另外，也可以通过查询MySQL选项值来确认：

    [root@GreatSQL]# mysqladmin var|grep -i group_replication_single_primary_mode
| group_replication_single_primary_mode        | ON

    值为 ON，这表示采用单主模式。如果该值为 OFF，则表示采用多主模式。

    在MySQL Shell中也可以查看状态来确认：

    MySQL  GreatSQL:3306 ssl  JS > var c=dba.getCluster()
MySQL  GreatSQL:3306 ssl  JS > c.describe() /* 或者 c.status() */
...
        "topologyMode": "Single-Primary"
...

    P.S，强烈建议采用单主模式，遇到bug或其他问题的概率更低，运行MGR更稳定可靠。

    17. 怎么切换单主或多主

    在MySQL客户端命令行模式下，执行下面的命令即可：

    -- 从单主切换为多主
[root@GreatSQL]> SELECT group_replication_switch_to_multi_primary_mode();
+--------------------------------------------------+
| group_replication_switch_to_multi_primary_mode() |
+--------------------------------------------------+
| Mode switched to multi-primary successfully.     |
+--------------------------------------------------+

-- 从多主切换为单主
[root@GreatSQL]> SELECT group_replication_switch_to_single_primary_mode();
+---------------------------------------------------+
| group_replication_switch_to_single_primary_mode() |
+---------------------------------------------------+
| Mode switched to single-primary successfully.     |
+---------------------------------------------------+

    注意： 切换时会重新选主，新的主节点有可能不是切换之前的那个，这时可以运行下面的命令来重新指定：

    [root@GreatSQL]> SELECT group_replication_set_as_primary('ed5fe7ba-37c2-11ec-8e12-70b5e873a570');
+--------------------------------------------------------------------------+
| group_replication_set_as_primary('ed5fe7ba-37c2-11ec-8e12-70b5e873a570') |
+--------------------------------------------------------------------------+
| Primary server switched to: ed5fe7ba-37c2-11ec-8e12-70b5e873a570         |
+--------------------------------------------------------------------------+

    也可以通过MySQL Shell来操作：

    MySQL  GreatSQL:3306 ssl  JS > var c=dba.getCluster()
> c.switchToMultiPrimaryMode()  /*切换为多主模式*/
Switching cluster 'MGR27' to Multi-Primary mode...

Instance 'GreatSQL:3306' was switched from SECONDARY to PRIMARY.
Instance 'GreatSQL:3307' was switched from SECONDARY to PRIMARY.
Instance 'GreatSQL:3308' was switched from SECONDARY to PRIMARY.
Instance 'GreatSQL:3309' remains PRIMARY.

The cluster successfully switched to Multi-Primary mode.

> c.switchToSinglePrimaryMode()  /*切换为单主模式*/
Switching cluster 'MGR27' to Single-Primary mode...

Instance 'GreatSQL:3306' remains PRIMARY.
Instance 'GreatSQL:3307' was switched from PRIMARY to SECONDARY.
Instance 'GreatSQL:3308' was switched from PRIMARY to SECONDARY.
Instance 'GreatSQL:3309' was switched from PRIMARY to SECONDARY.

WARNING: The cluster internal session is not the primary member anymore. For cluster management operations please obtain a fresh cluster handle using dba.getCluster().

WARNING: Existing connections that expected a R/W connection must be disconnected, i.e. instances that became SECONDARY.

The cluster successfully switched to Single-Primary mode.

> c.setPrimaryInstance('GreatSQL:3309');  /*重新设置主节点*/
Setting instance 'GreatSQL:3309' as the primary instance of cluster 'MGR27'...

Instance 'GreatSQL:3306' was switched from PRIMARY to SECONDARY.
Instance 'GreatSQL:3307' remains SECONDARY.
Instance 'GreatSQL:3308' remains SECONDARY.
Instance 'GreatSQL:3309' was switched from SECONDARY to PRIMARY.

The instance 'GreatSQL:3309' was successfully elected as primary.

    P.S，强烈建议采用单主模式，遇到bug或其他问题的概率更低，运行MGR更稳定可靠。

    18. 怎么查看MGR从节点是否有延迟

    首先，可以执行下面的命令查看当前除了 PRIMARY 节点外，其他节点的 trx_tobe_applied 或 trx_tobe_verified 值是否较大：

    [root@GreatSQL]> SELECT MEMBER_ID AS id, COUNT_TRANSACTIONS_IN_QUEUE AS trx_tobe_verified, COUNT_TRANSACTIONS_REMOTE_IN_APPLIER_QUEUE AS trx_tobe_applied, COUNT_TRANSACTIONS_CHECKED AS trx_chkd, COUNT_TRANSACTIONS_REMOTE_APPLIED AS trx_done, COUNT_TRANSACTIONS_LOCAL_PROPOSED AS proposed FROM performance_schema.replication_group_member_stats;
+--------------------------------------+-------------------+------------------+----------+----------+----------+
| id                                   | trx_tobe_verified | trx_tobe_applied | trx_chkd | trx_done | proposed |
+--------------------------------------+-------------------+------------------+----------+----------+----------+
| 4ebd3504-11d9-11ec-8f92-70b5e873a570 |                 0 |                0 |   422248 |        6 |   422248 |
| 549b92bf-11d9-11ec-88e1-70b5e873a570 |                 0 |           238391 |   422079 |   183692 |        0 |
| 5596116c-11d9-11ec-8624-70b5e873a570 |              2936 |           238519 |   422115 |   183598 |        0 |
| ed5fe7ba-37c2-11ec-8e12-70b5e873a570 |              2976 |           238123 |   422167 |   184044 |        0 |
+--------------------------------------+-------------------+------------------+----------+----------+----------+

    其中，trx_tobe_applied 的值表示等待被apply的事务队列大小，trx_tobe_verified 表示等待被认证的事务队列大小，这二者任何一个值大于0，都表示当前有一定程度的延迟。

    另外，也可以查看接收到的事务和已执行完的事务之间的差距来判断：

    [root@GreatSQL]> SELECT RECEIVED_TRANSACTION_SET FROM performance_schema.replication_connection_status WHERE  channel_name = 'group_replication_applier' UNION ALL SELECT variable_value FROM performance_schema.global_variables WHERE  variable_name = 'gtid_executed'\G
*************************** 1. row ***************************
RECEIVED_TRANSACTION_SET: 6cfb873b-573f-11ec-814a-d08e7908bcb1:1-3124520
*************************** 2. row ***************************
RECEIVED_TRANSACTION_SET: 6cfb873b-573f-11ec-814a-d08e7908bcb1:1-3078139

    可以看到，接收到的事务 GTID 已经到了 3124520，而本地只执行到 3078139，二者的差距是 46381。可以顺便持续关注这个差值的变化情况，估算出本地节点是否能追平延迟，还是会加大延迟。

    19. MySQL Router支持单机多实例部署吗

    是的，支持。
    在MySQL Router初始化部署时，添加 --name、--directory 及端口号等参数即可，例如：

    -- 部署第一个实例
root@GreatSQL# mysqlrouter --bootstrap mymgr@192.168.1.1:3306 --name=MGR1 --directory=/etc/mysqlrouter/MGR1  --user=mysqlrouter --conf-base-port=6446 --https-port=8443

-- 部署第二个实例
root@GreatSQL# mysqlrouter --bootstrap mymgr@192.168.1.1:4306 --name=MGR2 --directory=/etc/mysqlrouter/MGR2  --user=mysqlrouter --conf-base-port=7446 --https-port=9443

    然后每个实例用各自目录下的 start.sh 和 stop.sh 脚本启停即可。

    关于MySQL Router多实例部署的方法，可以参考这篇参考文档：《叶问》38期，MGR整个集群挂掉后，如何才能自动选主，不用手动干预。

    您可能对下面这些文章也感兴趣:

    1. 技术分享 | 利用GreatSQL部署MGR集群，并完成添加新节点 、滚动升级、切主（超详细） 一文快速掌握MGR集群的部署和运维。 本文详细介绍如何在单机环境下，利用GreatSQL构建一个3节点的MGR […]...
    2. 《叶问》38期，MGR整个集群挂掉后，如何才能自动选主，不用手动干预 当集群中所有节点都宕机后，集群再次启动后，能否自动选主 1、MGR集群所有节点都宕机后，集群重启，能否自动选主 […]...
    3. 一周碎碎念，2021.7.18，MySQL里长时间的慢查询kill无响应 叨叨最近遇到的一些事以及见闻、思考。 1. MySQL时不时意外crash 本想分享下这个案例的，不过 […]...

    Powered by YARPP.



沪ICP备19023445号-2号
友情链接