Administrator
发布于 2021-01-19 / 4030 阅读 / 0 评论 / 0 点赞

liquibase的changelog详解

liquibase的changelog详解

转载自两位大佬的文章,原文链接:
https://zhuanlan.zhihu.com/p/157714666
https://blog.csdn.net/a112626290/article/details/104263790

二、changelog 详解

1.什么是changelog?

changelog 是 Liquibase 进行版本管理的核心文件。

  • 官方介绍

The root of all Liquibase changes is the changelog file. Liquibase uses a changelog to list all changes, in order, made to your database. Think of it as a ledger. It is a file that contains a record of all your database changes (changesets). Liquibase uses this changelog record to audit your database and execute any changes not yet applied to your database.

hangelog 是 Liquibase 版本控制的核心,Liquibase 通过有序的 changelog 罗列你对数据库的更改,你可以把它想象成为一个账本,包含你对数据库所有操作的文件。

Liquibase 使用这个变更日志来审计你的数据库,并执行任何还没有应用到目标数据库的变更操作

简而言之就是一个日志文件,可以理解成 MySql 的 binlog 重做日志,Hadoop 的 NameNode 日志,提供重现步骤

2. changelog 的格式

Liquibase 提供的 changelog 格式有5种:

  • SQL
  • XML
  • JSON
  • YAML
  • Other

其中建议使用的是 XML ,其次是 YAML,原因是可读性高。所以这里只讲XML和YAML

2.1.XML 格式

<?xml version="1.0" encoding="UTF-8"?>  

<databaseChangeLog  
        xmlns="http://www.liquibase.org/xml/ns/dbchangelog"  
        xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"  
        xmlns:ext="http://www.liquibase.org/xml/ns/dbchangelog-ext"  
        xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.8.xsd
        http://www.liquibase.org/xml/ns/dbchangelog-ext http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-ext.xsd">  

    <preConditions>  
        <runningAs  username="liquibase"/>  
    </preConditions>  

    <changeSet  id="1"  author="nvoxland">  
        <createTable  tableName="person">  
            <column  name="id"  type="int"  autoIncrement="true">  
                <constraints  primaryKey="true"  nullable="false"/>  
            </column>  
            <column  name="firstname"  type="varchar(50)"/>  
            <column  name="lastname"  type="varchar(50)">  
                <constraints  nullable="false"/>  
            </column>  
            <column  name="state"  type="char(2)"/>  
        </createTable>  
    </changeSet>  
</databaseChangeLog>

2.2 YAML 格式

使用 JSON 需要下载:snakeyaml-1.12.jar ,并加入到 classpath 中

databaseChangeLog:  
  -  changeSet:  
      id:  1  
      author:  nvoxland  
      changes:  
        -  createTable:  
            tableName:  person  
            columns:  
              -  column:  
                  name:  id  
                  type:  int  
                  autoIncrement:  true  
                  constraints:  
                    primaryKey:  true  
                    nullable:  false  
              -  column:  
                  name:  firstname  
                  type:  varchar(50)  
              -  column:  
                  name:  lastname  
                  type:  varchar(50)  
                  constraints:  
                    nullable:  false  
              -  column:  
                  name:  state  
                  type:  char(2)

3.changelog 嵌套元素

changelog 可用的嵌套元素共5类:

  • preConditions:执行 changelog 的前置条件;
  • property:用于设置属性的值;
  • changeSet:执行的变更集
  • include:引用其他包含要执行的 changeSet 文件;
  • context:changSet 上下文;

这些嵌套元素将在编写 changelog 时详细说明,接下来,让我们写一个简单的 changelog ,完成我们的数据库升级

4、实战

1、优化

首先,我们可以从二-5中看到update,执行过程中,如果每次命令都需要加这么一堆参数就显得很繁琐,没关系,Liquibase提供了优化的方案。

  • 我们可以通过内置的 liquibase.properties 文件,预定义我们的一些变量,如图:
# 版本控制主文件
driver:com.mysql.cj.jdbc.Driver
url:jdbc:mysql://localhost:3306/liquibase?useSSL=false
username:root
password:admin
# jdbc 驱动
classpath:./mysql-connector-java-8.0.11.jar
changeLogFile:./sql/my/text.xml

这样在 liquibase.properties 同级目录下,直接执行 liquibase update liquibase rollbackCount 2即可。

  • 就像这样

image-20210117173520748

  • 以下所以的实战默认已有properties文件,配置好了所有信息,并在同级目录下执行

2、目标数据库状态

创建表 user ,字段 id,name,age

添加初始化数据:(1,"张三",18),(2,"李四",19),(3,"王五",19)

3、使用命令

3.1.update
liquibase update
3.2.rollback
liquibase rollbackCount 2

4、编写changelog文件

空的changelog格式如下:

<?xml version="1.0" encoding="UTF-8"?>  
<databaseChangeLog  
    xmlns="http://www.liquibase.org/xml/ns/dbchangelog"  
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"  
    xmlns:ext="http://www.liquibase.org/xml/ns/dbchangelog-ext"  
    xmlns:pro="http://www.liquibase.org/xml/ns/pro"  
    xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.8.xsd
    http://www.liquibase.org/xml/ns/dbchangelog-ext http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-ext.xsd
    http://www.liquibase.org/xml/ns/pro http://www.liquibase.org/xml/ns/pro/liquibase-pro-3.8.xsd ">  
</databaseChangeLog>

5、添加changeSet

5.1.原生SQL格式

样例如下,分布执行两步,两个 changeSet,第一建表,第二步插入数据

是更新时使用的, 是回滚时使用的

<changeSet id="create-user" author="jiaotd">
        <sql>
            CREATE TABLE `user` (
            `id` int(11) NOT NULL AUTO_INCREMENT,
            `name` varchar(255) DEFAULT NULL,
            `age` int(11) DEFAULT NULL,
            PRIMARY KEY (`id`)
            ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
        </sql>
        <rollback>
            <sql>
                drop database `user`;
            </sql>
        </rollback>
        <comment>创建user表</comment>
    </changeSet>

    <changeSet id="insert-user" author="jiaotd">
        <sql>
            insert into user values(1,"张三",18),(2,"李四",19),(3,"王五",19);
        </sql>
        <rollback>
            <sql>
                delete from user;
            </sql>
        </rollback>
        <comment>创建user表</comment>
    </changeSet>

执行update操作,显示Liquibase: Update has been successful.即代表成功。

可以看到,数据库多了3张表:DATABASECHANGELOG,DATABASECHANGELOGLOCK,user

image-20210119094755883

其中 user 是我们自己定义的表,而剩下两张表则是 Liquibase 本身所需要的表。

打开 user 表,看一下我们的数据是否正确。

剩余的两张 Liquibase 的表,DATABASECHANGELOGLOCK 是Liquibase 在处理并发操作时一个锁表,正常情况下不用关心,DATABASECHANGELOG 则是 Liquibase 对数据进行版本管理的核心,如图:

image-20210119094828244

列描述在上一篇文章已经提到,这里就不再赘述,重点看DESCRIOTION,字段值是SQL,代表我们使用了 SQL 格式的 changeSet。

执行rollback命令后,就可以看到 user 表被删除,另外DATABASECHANGELOG处于清空状态。

5.2.SQLFile格式

首先我们先定义 update 与 rollback 执行的 SQL 文件

creat-user.sql

CREATE TABLE `user` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`name` varchar(255) DEFAULT NULL,
`age` int(11) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

insert into user values(1,"张三",18),(2,"李四",19),(3,"王五",19);

create-user-rollback.sql

drop table `user`;

然后,新建一个 test-sqlfile.xml 文件,内容如下:

<?xml version="1.0" encoding="utf-8"?>
<databaseChangeLog
        xmlns="http://www.liquibase.org/xml/ns/dbchangelog"
        xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
        xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog
    http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.4.xsd">

    <changeSet id="init-user" author="jiaotd">
        <sqlFile path="create-user.sql" relativeToChangelogFile="true"/>
        <rollback>
            <sqlFile path="create-user-rollback.sql" relativeToChangelogFile="true"/>
        </rollback>
        <comment>初始化user表</comment>
    </changeSet>

</databaseChangeLog>

最后,执行update操作,同样可以实现刚才的效果,DATABASECHANGELOG 如图所示:

image-20210119095651464

这里注意看 DESCRIOTION,值是 sqlFile,代表我们使用了 SQLFile 格式的 changeSet 。

5.3.原生XML标签格式

创建一个新的 changelog 文件,命名为 test-xml.xml,内容如下:

<?xml version="1.0" encoding="utf-8"?>
<databaseChangeLog
        xmlns="http://www.liquibase.org/xml/ns/dbchangelog"
        xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
        xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog
    http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.4.xsd">

    <changeSet id="create-user" author="jiaotd">
        <createTable tableName="user">
            <column name="id" type="int(11)" autoIncrement="1"/>
            <column name="name" type="varchar(1255)"/>
            <column name="age" type="int(11)"/>
        </createTable>
        <addPrimaryKey tableName="user" columnNames="id"/>
        <rollback>
            <dropTable tableName="user"/>
        </rollback>
    </changeSet>


    <changeSet id="add-user" author="jiaotd">
        <insert tableName="user">
            <column name="id" value="1"/>
            <column name="name" value="张三"/>
            <column name="age" value="18"/>
        </insert>
        <insert tableName="user">
            <column name="id" value="2"/>
            <column name="name" value="李四"/>
            <column name="age" value="19"/>
        </insert>
        <insert tableName="user">
            <column name="id" value="3"/>
            <column name="name" value="王五"/>
            <column name="age" value="19"/>
        </insert>
    </changeSet>

</databaseChangeLog>

这里注意看DATABASECHANGELOG 的 DESCRIOTION,值是 类似于伪代码的内容,代表我们使用了原生xml 格式的 changeSet

5、标签详解

可以用include引入其他版本修改历史文件,如下图:

image-20210119164047317

5.1.XML格式

tagDescription
preConditions执行sql变更文件的前置条件
property设置的属性的值
changeSet要执行的更改
include包含要执行的更改集的附加文件
context上下文将被附加到(使用AND)所有变更集
5.1.1.preConditions标签

可以应用于<databaseChangeLog>标签或者<changeSet>标签。

<?xml version="1.0" encoding="UTF-8"?>

<databaseChangeLog
  xmlns="http://www.liquibase.org/xml/ns/dbchangelog"
  xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
  xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog
         http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.8.xsd">
    <preConditions>
        <dbms type="oracle" />
        <runningAs username="SYSTEM" />
    </preConditions>

    <changeSet id="1" author="bob">
        <preConditions onFail="WARN">
            <sqlCheck expectedResult="0">select count(*) from oldtable</sqlCheck>
        </preConditions>
        <comment>Comments should go after preCondition. If they are before then liquibase usually gives error.</comment>
        <dropTable tableName="oldtable"/>
    </changeSet>
</databaseChangeLog>

上述的示例,是只有在Oracle数据库以及用户是SYSTEM时才会执行。

preConditions前置条件分为正常和异常情况:
正常情况下,无论返回的值是不是预料的值(0),oldtable都会被删除,只是如果不是预料的值,这里会给出WARN;
异常情况下,也就是如果oldtable不存在,删除oldtable的命令将不会执行。

(1)处理失败和错误
AttributeDescription
onFail当preConditions是失败情形下如何处理
OnError当preConditions是错误情形下如何处理
onSqlOutput在updateSQL模式下要做什么
onFailMessage输出的失败信息
onErrorMessage输出的错误信息
OnFail/OnError值可能配置的值
ValueDescription
HALT立即停止执行整个更改日志。 [默认]
CONTINUE跳过* changeSet 。 下次更新时将再次尝试执行更改集。 继续 changelog *。
MARK_RAN跳过更改集,但将其标记为已执行。继续更改日志。
WARN输出警告并继续照常执行* changeSet * / * changelog *。
onSqlOutput可能配置的值
ValueDescription
TEST在updateSQL模式下运行changeSet
FAIL使preConditons在updateSQL模式下失败
IGNORE忽略updateSQL模式中的preConditons(默认)。
(2)and/or/not逻辑

可以使用nestable <and><or><not>标记将条件逻辑应用于前置条件。如果没有指定条件标记,则默认为AND。

<preConditions onFail="WARN">
    <dbms type="oracle" />
    <runningAs username="SYSTEM" />
</preConditions>

这里就是默认值AND,也就是同时满足既是oracle数据库,并且用户必须是SYSTEM才会执行。

如果使数据更改可以在oracle和mysql中可以执行,需要用到or表达式:

 <preConditions>
     <or>
         <dbms type="oracle" />
         <dbms type="mysql" />
     </or>
 </preConditions>

复合条件,例如,是oracle数据库,并且用户必须是SYSTEM 或者 数据库是mysql,且用户需要为root时,可以这样写:

<preConditions>
     <or>
         <and>
            <dbms type="oracle" />
            <runningAs username="SYSTEM" />
         </and>
         <and>
            <dbms type="mysql" />
            <runningAs username="root" />
         </and>
     </or>
 </preConditions>
(3)可用的preConditions
  • <dbms>:如果针对指定类型执行的数据库匹配,则可以传递。
<dbms type="mysql" />
1
  • <runningAs>:执行执行的用户,匹配才可以传递。
<runningAs username="root" />
1
  • <changeSetExecuted>:如果指定的changeSet被执行了才可以传递。
<changeSetExecuted id="1" author="YoungLu" changeLogFile="classpath:liquibase/changelog/2020-02-11-change.xml" />
1
  • <columnExists>:如果数据库中的指定列存在则传递
<columnExists schemaName="young_webchat" tableName="y_user" columnName="username" />
1
  • <tableExists>:如果数据库中的表存在,则传递
<tableExists schemaName="young_webchat" tableName="y_user" />
1
  • <viewExists>:如果数据库中的视图存在,则传递
<viewExists schemaName="young_webchat" viewName="y_user_view" />
1
  • <foreignKeyConstraintExists>:如果外键存在则传递
<foreignKeyConstraintExists schemaName="young_webchat" foreignKeyName="y_user_log_fk" />
1
  • <indexExists>:如果索引存在则传递
<indexExists schemaName="young_webchat" indexName="y_user_idx" />
1
  • <sequenceExists>:如果序列存在则传递
<sequenceExists schemaName="young_webchat" sequenceName="y_user_seq" />
1
  • <primaryKeyExists>:如果主键存在则传递
<primaryKeyExists schemaName="young_webchat" primaryKeyName="y_user_id" />
1
  • <sqlCheck>:执行SQL检查。SQL必须返回具有单个值的单个行。
<sqlCheck expectedResult="1">SELECT COUNT(1) FROM pg_tables WHERE TABLENAME = 'myRequiredTable'</sqlCheck>
1
  • <changeLogPropertyDefined>:检查给定的changelog参数是否存在。如果一个值也是给定的,如果这个值与给定的值不相同那么它只会失败。
<changeLogPropertyDefined property="myproperty"/>
<changeLogPropertyDefined property="myproperty" value="requiredvalue"/>
12
  • <customPrecondition>:可以通过创建实现liquibase.precondition的类来创建自定义前置条件。CustomPrecondition接口。自定义类的参数是通过基于子标记的反射设置的。参数作为字符串传递给自定义前置条件。
<customPrecondition className="com.example.CustomTableCheck">
    <param name="tableName" value="our_table"/>
    <param name="count" value="42"/>
</customPrecondition>
5.1.2.Properties标签

为changelog定义一个参数。给定上下文 和/或 数据库的列表,该参数将仅在这些上下文 和/或 数据库中使用。

示例:

<databaseChangeLog
        xmlns="http://www.liquibase.org/xml/ns/dbchangelog"
        xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
        xmlns:ext="http://www.liquibase.org/xml/ns/dbchangelog-ext"
        xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.8.xsd
        http://www.liquibase.org/xml/ns/dbchangelog-ext http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-ext.xsd">

    <property name="clob.type" value="clob" dbms="oracle"/>
    <property name="clob.type" value="longtext" dbms="mysql"/>

    <changeSet id="1" author="joe">
         <createTable tableName="${table.name}">
             <column name="id" type="int"/>
             <column name="${column1.name}" type="${clob.type}"/>
             <column name="${column2.name}" type="int"/>
         </createTable>
    </changeSet>
</databaseChangeLog>
  • 可用的配置项
AttributeDescription
name表的数据库名称
value所需列的表的名称
context上下文,逗号分隔
dbms要用于该changeSet 的数据库的类型。关键字all和none也可用。
global定义属性是全局的还是局限于databaseChangeLog。“true”或“false”。

示例:

<property name="simpleproperty" value="somevalue"/>
<property name="clob.type" value="clob" dbms="oracle,h2"/>
<property name="clob.type" value="longtext" dbms="mysql"/>
<property name="myproperty" value="yes" context="common,test"/>
<property name="localproperty" value="foo" global="false"/>
5.1.3.changeSet标签

将一个个数据库更改分开。

示例:

<?xml version="1.0" encoding="UTF-8"?>

<databaseChangeLog
  xmlns="http://www.liquibase.org/xml/ns/dbchangelog"
  xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
  xmlns:pro="http://www.liquibase.org/xml/ns/pro"
  xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.8.xsd
      http://www.liquibase.org/xml/ns/pro http://www.liquibase.org/xml/ns/pro/liquibase-pro-3.8.xsd">
    <changeSet id="1" author="bob">
        <comment>A sample change log</comment>
        <createTable/>
    </changeSet>
    <changeSet id="2" author="bob" runAlways="true">
        <alterTable/>
    </changeSet>
    <changeSet id="3" author="alice" failOnError="false" dbms="oracle">
        <alterTable/>
    </changeSet>
    <changeSet id="4" author="alice" failOnError="false" dbms="!oracle">
        <alterTable/>
    </changeSet>

</databaseChangeLog>

一般主要由“id” 、“author”、changelog文件路径名组成

(1)可用的属性值:
属性描述
id唯一识别,不一定是数字
author作者
dbms数据库类型
runAlways在每次运行时执行changeset ,即使之前已经运行过
runOnChange在第一次看到更改时执行更改,并且在每次changeset 时执行更改
context控制是否执行changeset,这取决于运行时设置。任何字符串都可以用于上下文名称,它们被不区分大小写地选中。
labels控制是否执行changeset,这取决于运行时设置。任何字符串都可以用于标签名称,并且不区分大小写地选中它们。
runInTransaction是否应该将changeset作为单个事务运行(如果可能的话)?默认值为true。
failOnError如果在执行changeset时发生错误,迁移是否应该失败
objectQuotingStrategy这控制了在生成的SQL中如何引用对象名,或者在对数据库的调用中如何使用对象名。不同的数据库对对象的名称执行不同的操作,例如Oracle将所有内容都转换为大写(除非使用引号)。有三个可能的值。默认值是LEGACY。三个配置的值: LEGACY - Same behavior as in Liquibase 2.0 QUOTE_ALL_OBJECTS - 每个对象都加上双引号 :person becomes “person”.QUOTE_ONLY_RESERVED_WORDS - 在保留关键字和可用列名上面加双引号
(2)可用的子标签
valuedescription
comment注释
preConditions前置条件,例如做一些不可逆操作前的必要检查
<Any Refactoring Tag(s)>要作为这个更改集的一部分运行的数据库更改
validCheckSum添加一个校验和,不管数据库中存储了什么,它都被认为对这个changeset是有效的。主要用于需要更改changeset,并且不希望在已经运行了changeset的数据库上抛出错误(不推荐使用此过程)
rollback描述如何回滚更改集的SQL语句或重构标记

着重讲一下rollback标签的示例:

<changeSet id="1" author="bob">
    <createTable tableName="testTable">
    <rollback>
        drop table testTable
    </rollback>
</changeSet>
123456
<changeSet id="1" author="bob">
    <createTable tableName="testTable">
    <rollback>
        <dropTable tableName="testTable"/>
    </rollback>
</changeSet>
123456
<changeSet id="2" author="bob">
    <dropTable tableName="testTable"/>
    <rollback changeSetId="1" changeSetAuthor="bob"/>
</changeSet>
1234

这里发生了回滚,会调用id为1的changeSet 。

5.1.4.include标签

将change-logs拆分为易于管理的部分。

例如:

<?xml version="1.0" encoding="UTF-8"?>

<databaseChangeLog
  xmlns="http://www.liquibase.org/xml/ns/dbchangelog"
  xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
  xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog
         http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.8.xsd">
    <include file="com/example/news/news.changelog.xml"/>
    <include file="com/example/directory/directory.changelog.xml"/>
</databaseChangeLog>

可用的配置项:

AttributeDescription
file被引入的文件
relativeToChangelogFile用文件的相对路径而不是classpath
context向所有包含的changeSets追加上下文(使用AND)

评论