分布式事務(wù) | 使用DTM 的Saga 模式

DTM 簡介

前面章節(jié)提及的MassTransit、dotnetcore/CAP都提供了分布式事務(wù)的處理能力,但也僅局限于Saga和本地消息表模式的實現(xiàn)。那有沒有一個獨立的分布式事務(wù)解決方案,涵蓋多種分布式事務(wù)處理模式,如SagaTCC、XA模式等。有,目前業(yè)界主要有兩種開源方案,其一是阿里開源的Seata,另一個就是DTM。其中Seata僅支持Java、Go和Python語言,因此不在.NET 的選擇范圍。DTM則通過提供簡單易用的HTTP和gRPC接口,屏蔽了語言的無關(guān)性,因此支持任何開發(fā)語言接入,目前提供了Go、Python、NodeJs、Ruby、Java和C#等語言的SDK。
DTM,全稱Distributed Transaction Manager,是一個分布式事務(wù)管理器,解決跨數(shù)據(jù)庫、跨服務(wù)、跨語言更新數(shù)據(jù)的一致性問題。它提供了Saga、TCC、 XA和二階段消息模式以滿足不同應(yīng)用場景的需求,同時其首創(chuàng)的子事務(wù)屏障技術(shù)可以有效解決冪等、懸掛和空補(bǔ)償?shù)犬惓栴}。

DTM 事務(wù)處理過程及架構(gòu)

那DTM是如何處理分布式事務(wù)的呢?以一個經(jīng)典的跨行轉(zhuǎn)賬業(yè)務(wù)為例來看下事務(wù)處理過程。對于跨行轉(zhuǎn)賬業(yè)務(wù)而言,很顯然是跨庫跨服務(wù)的應(yīng)用場景,不能簡單通過本地事務(wù)解決,可以使用Saga模式,以下是基于DTM提供的Saga事務(wù)模式成功轉(zhuǎn)賬的的時序圖:

從以上時序圖可以看出,DTM整個全局事務(wù)分為如下幾步:

  1. 用戶定義好全局事務(wù)所有的事務(wù)分支(全局事務(wù)的組成部分稱為事務(wù)分支),然后提交給DTM,DTM持久化全局事務(wù)信息后,立即返回
  2. DTM取出第一個事務(wù)分支,這里是TransOut,調(diào)用該服務(wù)并成功返回
  3. DTM取出第二個事務(wù)分支,這里是TransIn,調(diào)用該服務(wù)并成功返回
  4. DTM已完成所有的事務(wù)分支,將全局事務(wù)的狀態(tài)修改為已完成

基于以上這個時序圖的基礎(chǔ)上,再來看下DTM的架構(gòu):

整個DTM架構(gòu)中,一共有三個角色,分別承擔(dān)了不同的職責(zé):

  • RM-資源管理器:RM是一個應(yīng)用服務(wù),通常連接到獨立的數(shù)據(jù)庫,負(fù)責(zé)處理全局事務(wù)中的本地事務(wù),執(zhí)行相關(guān)數(shù)據(jù)的修改、提交、回滾、補(bǔ)償?shù)炔僮鳌@缭谇懊娴倪@個Saga事務(wù)時序圖中,步驟2、3中被調(diào)用的TransIn和TransOut方法所在的服務(wù)都是RM。
  • AP-應(yīng)用程序:AP是一個應(yīng)用服務(wù),負(fù)責(zé)全局事務(wù)的編排,他會注冊全局事務(wù),注冊子事務(wù),調(diào)用RM接口。例如在前面的這個SAGA事務(wù)中,發(fā)起步驟1的是AP,它編排了一個包含TransOut、TransIn的全局事務(wù),然后提交給TM
  • TM-事務(wù)管理器:TM就是DTM服務(wù),負(fù)責(zé)全局事務(wù)的管理,作為一個獨立的服務(wù)而存在。每個全局事務(wù)都注冊到TM,每個事務(wù)分支也注冊到TM。TM會協(xié)調(diào)所有的RM來執(zhí)行不同的事務(wù)分支,并根據(jù)執(zhí)行結(jié)果決定是否提交或回滾事務(wù)。例如在前面的Saga事務(wù)時序圖中,TM在步驟2、3中調(diào)用了各個RM,在步驟4中,完成這個全局事務(wù)。

總體而言,AP-應(yīng)用程序充當(dāng)全局事務(wù)編排器的角色通過DTM提供的開箱即用的SDK進(jìn)行全局事務(wù)和子事務(wù)的注冊。TM-事務(wù)管理器接收到注冊的全局事務(wù)和子事務(wù)后,負(fù)責(zé)調(diào)用RM-資源管理器來執(zhí)行對應(yīng)的事務(wù)分支,TM-事務(wù)管理器根據(jù)事務(wù)分支的執(zhí)行結(jié)果決定是否提及或回滾事務(wù)。

快速上手

百聞不如一見,接下來就來實際上手體驗下如何基于DTM來實際應(yīng)用Saga進(jìn)行分布式跨行轉(zhuǎn)賬事務(wù)的處理。

創(chuàng)建示例項目

接下來就來創(chuàng)建一個示例項目:

  1. 使用dotnet new webapi -n DtmDemo.Webapi創(chuàng)建示例項目。
  2. 添加Nuget包:DtmcliPomelo.EntityFrameworkCore.MySql。
  3. 添加DTM配置項:
{
  "dtm": {
    "DtmUrl": "http://localhost:36789",
    "DtmTimeout": 10000,
    "BranchTimeout": 10000,
    "DBType": "mysql",
    "BarrierTableName": "dtm_barrier.barrier",
  }
}
  1. 定義銀行賬戶BankAccount實體類:
namespace DtmDemo.WebApi.Models
{
    public class BankAccount
    {
        public int Id { get; set; }
        public decimal Balance { get; set; }
    }
}
  1. 定義DtmDemoWebApiContext數(shù)據(jù)庫上下文:
using Microsoft.EntityFrameworkCore;

namespace DtmDemo.WebApi.Data
{
    public class DtmDemoWebApiContext : DbContext
    {
        public DtmDemoWebApiContext (DbContextOptions<DtmDemoWebApiContext> options)
            : base(options)
        {
        }

        public DbSet<DtmDemo.WebApi.Models.BankAccount> BankAccount { get; set; } = default!;
    }
}
  1. 注冊DbContext 和DTM服務(wù):
using Microsoft.EntityFrameworkCore;
using DtmDemo.WebApi.Data;
using Dtmcli;

var builder = WebApplication.CreateBuilder(args);
var connectionStr = builder.Configuration.GetConnectionString("DtmDemoWebApiContext");
// 注冊DbContext
builder.Services.AddDbContext<DtmDemoWebApiContext>(options =>
{
    options.UseMySql(connectionStr, ServerVersion.AutoDetect(connectionStr));
});

// 注冊DTM
builder.Services.AddDtmcli(builder.Configuration, "dtm");
  1. 執(zhí)行dotnet ef migrations add 'Initial' 創(chuàng)建遷移。
  2. 為便于初始化演示數(shù)據(jù),定義BankAccountController如下,其中PostBankAccount接口添加了await _context.Database.MigrateAsync();用于自動應(yīng)用遷移。
using Microsoft.AspNetCore.Mvc;
using Microsoft.EntityFrameworkCore;
using DtmDemo.WebApi.Data;
using DtmDemo.WebApi.Models;
using Dtmcli;

namespace DtmDemo.WebApi.Controllers
{
    [Route("api/[controller]")]
    [ApiController]
    public class BankAccountsController : ControllerBase
    {
        private readonly DtmDemoWebApiContext _context;

        public BankAccountsController(DtmDemoWebApiContext context)
        {
            _context = context;
        }
        [HttpGet]
        public async Task<ActionResult<IEnumerable<BankAccount>>> GetBankAccount()
        {
            return await _context.BankAccount.ToListAsync();
        }

        [HttpPost]
        public async Task<ActionResult<BankAccount>> PostBankAccount(BankAccount bankAccount)
        {
            await _context.Database.MigrateAsync();
            _context.BankAccount.Add(bankAccount);
            await _context.SaveChangesAsync();

            return Ok(bankAccount);
        }
}

應(yīng)用Saga模式

接下來定義SagaDemoController來使用DTM的Saga模式來模擬跨行轉(zhuǎn)賬分布式事務(wù):

using Microsoft.AspNetCore.Mvc;
using Microsoft.EntityFrameworkCore;
using DtmDemo.WebApi.Data;
using DtmDemo.WebApi.Models;
using Dtmcli;
using DtmCommon;

namespace DtmDemo.WebApi.Controllers
{
    [Route("api/[controller]")]
    [ApiController]
    public class SagaDemoController : ControllerBase
    {
        private readonly DtmDemoWebApiContext _context;
        private readonly IConfiguration _configuration;
        private readonly IDtmClient _dtmClient;
        private readonly IDtmTransFactory _transFactory;

        private readonly IBranchBarrierFactory _barrierFactory;
        private readonly ILogger<BankAccountsController> _logger;

        public SagaDemoController(DtmDemoWebApiContext context, IConfiguration configuration, IDtmClient dtmClient, IDtmTransFactory transFactory, ILogger<BankAccountsController> logger, IBranchBarrierFactory barrierFactory)
        {
            this._context = context;
            this._configuration = configuration;
            this._dtmClient = dtmClient;
            this._transFactory = transFactory;
            this._logger = logger;
            this._barrierFactory = barrierFactory;
        }
}

對于跨行轉(zhuǎn)賬業(yè)務(wù),使用DTM的Saga模式,首先要進(jìn)行事務(wù)拆分,可以拆分為以下4個子事務(wù),并分別實現(xiàn):

轉(zhuǎn)出子事務(wù)(TransferOut)

    [HttpPost("TransferOut")]
    public async Task<IActionResult> TransferOut([FromBody] TransferRequest request)
    {
        var msg = $"用戶{request.UserId}轉(zhuǎn)出{request.Amount}元";
        _logger.LogInformation($"轉(zhuǎn)出子事務(wù)-啟動:{msg}");
        // 1. 創(chuàng)建子事務(wù)屏障
        var branchBarrier = _barrierFactory.CreateBranchBarrier(Request.Query);
        try
        {
            using (var conn = _context.Database.GetDbConnection())
            {
                // 2. 在子事務(wù)屏障內(nèi)執(zhí)行事務(wù)操作
                await branchBarrier.Call(conn, async (tx) =>
                {
                    _logger.LogInformation($"轉(zhuǎn)出子事務(wù)-執(zhí)行:{msg}");
                    await _context.Database.UseTransactionAsync(tx);
                    var bankAccount = await _context.BankAccount.FindAsync(request.UserId);
                    if (bankAccount == null || bankAccount.Balance < request.Amount)
                        throw new InvalidDataException("賬戶不存在或余額不足!");
                    bankAccount.Balance -= request.Amount;
                    await _context.SaveChangesAsync();
                });
            }
        }
        catch (InvalidDataException ex)
        {
            _logger.LogInformation($"轉(zhuǎn)出子事務(wù)-失?。簕ex.Message}");
            // 3. 按照接口協(xié)議,返回409,以表示子事務(wù)失敗
            return new StatusCodeResult(StatusCodes.Status409Conflict);
        }
        _logger.LogInformation($"轉(zhuǎn)出子事務(wù)-成功:{msg}");
        return Ok();
    }

以上代碼中有幾點需要額外注意:

  1. 使用Saga模式,必須開啟子事務(wù)屏障:_barrierFactory.CreateBranchBarrier(Request.Query),其中Request.Query中的參數(shù)由DTM 生成,類似:?branch_id=01&gid=XTzKHgxemLyL8EXtMTLvzK&op=action&trans_type=saga,主要包含四個參數(shù):
    1. gid:全局事務(wù)Id
    2. trans_type:事務(wù)類型,是saga、msg、xa或者是tcc。
    3. branch_id:子事務(wù)的Id
    4. op:當(dāng)前操作,對于Saga事務(wù)模式,要么為action(正向操作),要么為compensate(補(bǔ)償操作)。
  2. 必須在子事務(wù)屏障內(nèi)執(zhí)行事務(wù)操作:branchBarrier.Call(conn, async (tx) =>{}
  3. 對于Saga正向操作而言,業(yè)務(wù)上的失敗與異常是需要做嚴(yán)格區(qū)分的,例如前面的余額不足,是業(yè)務(wù)上的失敗,必須回滾。而對于網(wǎng)絡(luò)抖動等其他外界原因?qū)е碌氖聞?wù)失敗,屬于業(yè)務(wù)異常,則需要重試。因此若因業(yè)務(wù)失?。ㄟ@里是賬戶不存在或余額不足)而導(dǎo)致子事務(wù)失敗,則必須通過拋異常的方式并返回**409**狀態(tài)碼以告知DTM 子事務(wù)失敗。
  4. 以上通過拋出異常的方式中斷子事務(wù)執(zhí)行并在外圍捕獲特定異常返回409狀態(tài)碼。在外圍捕獲異常時切忌放大異常捕獲,比如直接catch(Exception),如此會捕獲由于網(wǎng)絡(luò)等其他原因?qū)е碌漠惓#鴮?dǎo)致DTM 不再自動處理該異常,比如業(yè)務(wù)異常時的自動重試。

轉(zhuǎn)出補(bǔ)償子事務(wù)(TransferOut_Compensate)

轉(zhuǎn)出補(bǔ)償,就是回滾轉(zhuǎn)出操作,進(jìn)行賬戶余額歸還,實現(xiàn)如下:

    [HttpPost("TransferOut_Compensate")]
    public async Task<IActionResult> TransferOut_Compensate([FromBody] TransferRequest request)
    {
        var msg = $"用戶{request.UserId}回滾轉(zhuǎn)出{request.Amount}元";
        _logger.LogInformation($"轉(zhuǎn)出補(bǔ)償子事務(wù)-啟動:{msg}");
        // 1. 創(chuàng)建子事務(wù)屏障
        var branchBarrier = _barrierFactory.CreateBranchBarrier(Request.Query);
        using (var conn = _context.Database.GetDbConnection())
        {
            // 在子事務(wù)屏障內(nèi)執(zhí)行事務(wù)操作
            await branchBarrier.Call(conn, async (tx) =>
            {
                _logger.LogInformation($"轉(zhuǎn)出補(bǔ)償子事務(wù)-執(zhí)行:{msg}");
                await _context.Database.UseTransactionAsync(tx);
                var bankAccount = await _context.BankAccount.FindAsync(request.UserId);
                if (bankAccount == null)
                    return; //對于補(bǔ)償操作,可直接返回,中斷后續(xù)操作
                bankAccount.Balance += request.Amount;
                await _context.SaveChangesAsync();
            });
        }
        _logger.LogInformation($"轉(zhuǎn)出補(bǔ)償子事務(wù)-成功!");
        // 2. 因補(bǔ)償操作必須成功,所以必須返回200。
        return Ok();
    }

由于DTM設(shè)計為總是執(zhí)行補(bǔ)償,也就是說即使正向操作子事務(wù)失敗時,DTM 仍舊會執(zhí)行補(bǔ)償邏輯。但子事務(wù)屏障會在執(zhí)行時判斷正向操作的執(zhí)行狀態(tài),當(dāng)子事務(wù)失敗時,并不會執(zhí)行補(bǔ)償邏輯。
另外DTM的補(bǔ)償操作,是要求最終成功的,只要還沒成功,就會不斷進(jìn)行重試,直到成功。因此在補(bǔ)償子事務(wù)中,即使補(bǔ)償子事務(wù)中出現(xiàn)業(yè)務(wù)失敗時,也必須返回**200**因此當(dāng)出現(xiàn)bankAccount==null時可以直接 return。

轉(zhuǎn)入子事務(wù)(TransferIn)

轉(zhuǎn)入子事務(wù)和轉(zhuǎn)出子事務(wù)的實現(xiàn)基本類似,都是開啟子事務(wù)屏障后,在branchBarrier.Call(conn, async tx => {}中實現(xiàn)事務(wù)邏輯,并通過拋異常的方式并最終返回409狀態(tài)碼來顯式告知DTM 子事務(wù)執(zhí)行失敗。

    [HttpPost("TransferIn")]
    public async Task<IActionResult> TransferIn([FromBody] TransferRequest request)
    {
        var msg = $"用戶{request.UserId}轉(zhuǎn)入{request.Amount}元";
        _logger.LogInformation($"轉(zhuǎn)入子事務(wù)-啟動:{msg}");
        var branchBarrier = _barrierFactory.CreateBranchBarrier(Request.Query);
        try
        {
            using (var conn = _context.Database.GetDbConnection())
            {
                await branchBarrier.Call(conn, async (tx) =>
                {
                    _logger.LogInformation($"轉(zhuǎn)入子事務(wù)-執(zhí)行:{msg}");
                    await _context.Database.UseTransactionAsync(tx);
                    var bankAccount = await _context.BankAccount.FindAsync(request.UserId);
                    if (bankAccount == null)
                        throw new InvalidDataException("賬戶不存在!");
                    bankAccount.Balance += request.Amount;
                    await _context.SaveChangesAsync();
                });
            }
        }
        catch (InvalidDataException ex)
        {
            _logger.LogInformation($"轉(zhuǎn)入子事務(wù)-失敗:{ex.Message}");
            return new StatusCodeResult(StatusCodes.Status409Conflict);
        }
        _logger.LogInformation($"轉(zhuǎn)入子事務(wù)-成功:{msg}");
        return Ok();
    }

轉(zhuǎn)入補(bǔ)償子事務(wù)(TransferIn_Compensate)

轉(zhuǎn)入補(bǔ)償子事務(wù)和轉(zhuǎn)出補(bǔ)償子事務(wù)的實現(xiàn)也基本類似,都是開啟子事務(wù)屏障后,在branchBarrier.Call(conn, async tx => {}中實現(xiàn)事務(wù)邏輯,并最終返回200狀態(tài)碼來告知DTM 補(bǔ)償子事務(wù)執(zhí)行成功。

    [HttpPost("TransferIn_Compensate")]
    public async Task<IActionResult> TransferIn_Compensate([FromBody] TransferRequest request)
    {
        var msg = "用戶{request.UserId}回滾轉(zhuǎn)入{request.Amount}元";
        _logger.LogInformation($"轉(zhuǎn)入補(bǔ)償子事務(wù)-啟動:{msg}");
        var branchBarrier = _barrierFactory.CreateBranchBarrier(Request.Query);
        using (var conn = _context.Database.GetDbConnection())
        {
            await branchBarrier.Call(conn, async (tx) =>
            {
                _logger.LogInformation($"轉(zhuǎn)入補(bǔ)償子事務(wù)-執(zhí)行:{msg}");
                await _context.Database.UseTransactionAsync(tx);
                var bankAccount = await _context.BankAccount.FindAsync(request.UserId);
                if (bankAccount == null) return;
                bankAccount.Balance -= request.Amount;
                await _context.SaveChangesAsync();
            });
        }
        _logger.LogInformation($"轉(zhuǎn)入補(bǔ)償子事務(wù)-成功!");
        return Ok();
    }

編排Saga事務(wù)

拆分完子事務(wù),最后就可以進(jìn)行Saga事務(wù)編排了,其代碼如下所示:

    [HttpPost("Transfer")]
    public async Task<IActionResult> Transfer(int fromUserId, int toUserId, decimal amount,
        CancellationToken cancellationToken)
    {
        try
        {
            _logger.LogInformation($"轉(zhuǎn)賬事務(wù)-啟動:用戶{fromUserId}轉(zhuǎn)賬{amount}元到用戶{toUserId}");
            //1. 生成全局事務(wù)ID
            var gid = await _dtmClient.GenGid(cancellationToken);
            var bizUrl = _configuration.GetValue<string>("TransferBaseURL");
            //2. 創(chuàng)建Saga
            var saga = _transFactory.NewSaga(gid);
            //3. 添加子事務(wù)
            saga.Add(bizUrl + "/TransferOut", bizUrl + "/TransferOut_Compensate",
                    new TransferRequest(fromUserId, amount))
                .Add(bizUrl + "/TransferIn", bizUrl + "/TransferIn_Compensate",
                    new TransferRequest(toUserId, amount))
                .EnableWaitResult(); // 4. 按需啟用是否等待事務(wù)執(zhí)行結(jié)果

            //5. 提交Saga事務(wù)
            await saga.Submit(cancellationToken);
        }
        catch (DtmException ex) // 6. 如果開啟了`EnableWaitResult()`,則可通過捕獲異常的方式,捕獲事務(wù)失敗的結(jié)果。
        {
            _logger.LogError($"轉(zhuǎn)賬事務(wù)-失?。河脩魗fromUserId}轉(zhuǎn)賬{amount}元到用戶{toUserId}失敗!");
            return new BadRequestObjectResult($"轉(zhuǎn)賬失敗:{ex.Message}");
        }

        _logger.LogError($"轉(zhuǎn)賬事務(wù)-完成:用戶{fromUserId}轉(zhuǎn)賬{amount}元到用戶{toUserId}成功!");
        return Ok($"轉(zhuǎn)賬事務(wù)-完成:用戶{fromUserId}轉(zhuǎn)賬{amount}元到用戶{toUserId}成功!");
    }

主要步驟如下:

  1. 生成全局事務(wù)Id:var gid =await _dtmClient.GenGid(cancellationToken);
  2. 創(chuàng)建Saga全局事務(wù):_transFactory.NewSaga(gid);
  3. 添加子事務(wù):saga.Add(string action, string compensate, object postData);包含正向和反向子事務(wù)。
  4. 如果依賴事務(wù)執(zhí)行結(jié)果,可通過EnableWaitResult()開啟事務(wù)結(jié)果等待。
  5. 提交Saga全局事務(wù):saga.Submit(cancellationToken);
  6. 若開啟了事務(wù)結(jié)果等待,可以通過try...catch..來捕獲DtmExcepiton異常來獲取事務(wù)執(zhí)行異常信息。

運行項目

既然DTM作為一個獨立的服務(wù)存在,其負(fù)責(zé)通過HTTPgRPC協(xié)議發(fā)起子事務(wù)的調(diào)用,因此首先需要啟動一個DTM實例,又由于本項目依賴MySQL,因此我們采用Docker Compose的方式來啟動項目。在Visual Studio中通過右鍵項目->Add->Docker Support->Linux 即可添加Dockerfile如下所示:

FROM mcr.microsoft.com/dotnet/aspnet:6.0 AS base
WORKDIR /app
EXPOSE 80
EXPOSE 443

FROM mcr.microsoft.com/dotnet/sdk:6.0 AS build
WORKDIR /src
COPY ["DtmDemo.WebApi/DtmDemo.WebApi.csproj", "DtmDemo.WebApi/"]
RUN dotnet restore "DtmDemo.WebApi/DtmDemo.WebApi.csproj"
COPY . .
WORKDIR "/src/DtmDemo.WebApi"
RUN dotnet build "DtmDemo.WebApi.csproj" -c Release -o /app/build

FROM build AS publish
RUN dotnet publish "DtmDemo.WebApi.csproj" -c Release -o /app/publish

FROM base AS final
WORKDIR /app
COPY --from=publish /app/publish .
ENTRYPOINT ["dotnet", "DtmDemo.WebApi.dll"]

在Visual Studio中通過右鍵項目->Add Container Orchestrator Support->Docker Compose即可添加docker-compose.yml,由于整個項目依賴mysqlDTM,修改docker-compose.yml如下所示,其中定義了三個服務(wù):db,dtm和dtmdemo.webapi。

version: '3.4'
services:
  db:
    image: 'mysql:5.7'
    container_name: dtm-mysql
    environment:
      MYSQL_ROOT_PASSWORD: 123456 # 指定MySQL初始密碼
    volumes:
      - ./docker/mysql/scripts:/docker-entrypoint-initdb.d  # 掛載用于初始化數(shù)據(jù)庫的腳本
    ports:
      - '3306:3306'
  dtm:
    depends_on: ["db"]
    image: 'yedf/dtm:latest'
    container_name: dtm-svc
    environment:
      IS_DOCKER: '1'
      STORE_DRIVER: mysql  # 指定使用MySQL持久化DTM事務(wù)數(shù)據(jù)
      STORE_HOST: db   # 指定MySQL服務(wù)名,這里是db
      STORE_USER: root
      STORE_PASSWORD: '123456'
      STORE_PORT: 3306
      STORE_DB: "dtm" # 指定DTM 數(shù)據(jù)庫名
    ports:
      - '36789:36789' # DTM HTTP 端口
      - '36790:36790' # DTM gRPC 端口
  dtmdemo.webapi:
    depends_on: ["dtm", "db"]
    image: ${DOCKER_REGISTRY-}dtmdemowebapi
    environment:
      ASPNETCORE_ENVIRONMENT: docker # 設(shè)定啟動環(huán)境為docker
    container_name: dtm-webapi-demo
    build:
      context: .
      dockerfile: DtmDemo.WebApi/Dockerfile
    ports:
      - '31293:80'   # 映射Demo:80端口到本地31293端口
      - '31294:443'  # 映射Demo:443端口到本地31294端口

其中dtmdemo.webapi服務(wù)通過ASPNETCORE_ENVIRONMENT: docker指定啟動環(huán)境為docker,因此需要在項目下添加appsettings.docker.json以配置應(yīng)用參數(shù):

{
  "ConnectionStrings": {
    "DtmDemoWebApiContext": "Server=db;port=3306;database=dtm_barrier;user id=root;password=123456;AllowLoadLocalInfile=true"
  },
  "TransferBaseURL": "http://dtmdemo.webapi/api/SagaDemo",
  "dtm": {
    "DtmUrl": "http://dtm:36789",
    "DtmTimeout": 10000,
    "BranchTimeout": 10000,
    "DBType": "mysql",
    "BarrierTableName": "dtm_barrier.barrier"
  }
}

另外db服務(wù)中通過volumes: ["./docker/mysql/scripts:/docker-entrypoint-initdb.d"]來掛載初始化腳本,以創(chuàng)建DTM依賴的MySQL 存儲數(shù)據(jù)庫dtm和示例項目使用子事務(wù)屏障需要的barrier數(shù)據(jù)表。腳本如下:

CREATE DATABASE IF NOT EXISTS dtm
/*!40100 DEFAULT CHARACTER SET utf8mb4 */
;
drop table IF EXISTS dtm.trans_global;
CREATE TABLE if not EXISTS dtm.trans_global (
  `id` bigint(22) NOT NULL AUTO_INCREMENT,
  `gid` varchar(128) NOT NULL COMMENT 'global transaction id',
  `trans_type` varchar(45) not null COMMENT 'transaction type: saga | xa | tcc | msg',
  `status` varchar(12) NOT NULL COMMENT 'tranaction status: prepared | submitted | aborting | finished | rollbacked',
  `query_prepared` varchar(1024) NOT NULL COMMENT 'url to check for msg|workflow',
  `protocol` varchar(45) not null comment 'protocol: http | grpc | json-rpc',
  `create_time` datetime DEFAULT NULL,
  `update_time` datetime DEFAULT NULL,
  `finish_time` datetime DEFAULT NULL,
  `rollback_time` datetime DEFAULT NULL,
  `options` varchar(1024) DEFAULT 'options for transaction like: TimeoutToFail, RequestTimeout',
  `custom_data` varchar(1024) DEFAULT '' COMMENT 'custom data for transaction',
  `next_cron_interval` int(11) default null comment 'next cron interval. for use of cron job',
  `next_cron_time` datetime default null comment 'next time to process this trans. for use of cron job',
  `owner` varchar(128) not null default '' comment 'who is locking this trans',
  `ext_data` TEXT comment 'result for this trans. currently used in workflow pattern',
  `result` varchar(1024) DEFAULT '' COMMENT 'rollback reason for transaction',
  `rollback_reason` varchar(1024) DEFAULT '' COMMENT 'rollback reason for transaction',
  PRIMARY KEY (`id`),
  UNIQUE KEY `gid` (`gid`),
  key `owner`(`owner`),
  key `status_next_cron_time` (`status`, `next_cron_time`) comment 'cron job will use this index to query trans'
) ENGINE = InnoDB DEFAULT CHARSET = utf8mb4;
drop table IF EXISTS dtm.trans_branch_op;
CREATE TABLE IF NOT EXISTS dtm.trans_branch_op (
  `id` bigint(22) NOT NULL AUTO_INCREMENT,
  `gid` varchar(128) NOT NULL COMMENT 'global transaction id',
  `url` varchar(1024) NOT NULL COMMENT 'the url of this op',
  `data` TEXT COMMENT 'request body, depreceated',
  `bin_data` BLOB COMMENT 'request body',
  `branch_id` VARCHAR(128) NOT NULL COMMENT 'transaction branch ID',
  `op` varchar(45) NOT NULL COMMENT 'transaction operation type like: action | compensate | try | confirm | cancel',
  `status` varchar(45) NOT NULL COMMENT 'transaction op status: prepared | succeed | failed',
  `finish_time` datetime DEFAULT NULL,
  `rollback_time` datetime DEFAULT NULL,
  `create_time` datetime DEFAULT NULL,
  `update_time` datetime DEFAULT NULL,
  PRIMARY KEY (`id`),
  UNIQUE KEY `gid_uniq` (`gid`, `branch_id`, `op`)
) ENGINE = InnoDB DEFAULT CHARSET = utf8mb4;
drop table IF EXISTS dtm.kv;
CREATE TABLE IF NOT EXISTS dtm.kv (
  `id` bigint(22) NOT NULL AUTO_INCREMENT,
  `cat` varchar(45) NOT NULL COMMENT 'the category of this data',
  `k` varchar(128) NOT NULL,
  `v` TEXT,
  `version` bigint(22) default 1 COMMENT 'version of the value',
  create_time datetime default NULL,
  update_time datetime DEFAULT NULL,
  PRIMARY KEY (`id`),
  UNIQUE key `uniq_k`(`cat`, `k`)
) ENGINE = InnoDB DEFAULT CHARSET = utf8mb4;

create database if not exists dtm_barrier
/*!40100 DEFAULT CHARACTER SET utf8mb4 */
;
drop table if exists dtm_barrier.barrier;
create table if not exists dtm_barrier.barrier(
  id bigint(22) PRIMARY KEY AUTO_INCREMENT,
  trans_type varchar(45) default '',
  gid varchar(128) default '',
  branch_id varchar(128) default '',
  op varchar(45) default '',
  barrier_id varchar(45) default '',
  reason varchar(45) default '' comment 'the branch type who insert this record',
  create_time datetime DEFAULT now(),
  update_time datetime DEFAULT now(),
  key(create_time),
  key(update_time),
  UNIQUE key(gid, branch_id, op, barrier_id)
);

準(zhǔn)備完畢,即可通過點擊Visual Studio工具欄的Docker Compose的啟動按鈕,啟動后可以在Containers窗口看到啟動了dtm-mysql、dtm-svcdtm-webapi-demo三個容器,并在瀏覽器中打開了 http://localhost:31293/swagger/index.html Swagger 網(wǎng)頁。該種方式啟動項目是支持?jǐn)帱c調(diào)試項目,如下圖所示:

通過BankAccouts控制器的POST接口,初始化用戶1和用戶2各100元。再通過SagaDemo控制器的/api/Transfer接口,進(jìn)行Saga事務(wù)測試。

  1. 用戶1轉(zhuǎn)賬10元到用戶2

由于用戶1和用戶2已存在,且用戶1余額足夠, 因此該筆轉(zhuǎn)賬合法因此會成功,其執(zhí)行路徑為:轉(zhuǎn)出(成功)->轉(zhuǎn)入(成功)-> 事務(wù)完成,執(zhí)行日志如下圖所示:

  1. 用戶3轉(zhuǎn)賬10元到用戶1

由于用戶3不存在,因此執(zhí)行路徑為:轉(zhuǎn)出(失?。?>轉(zhuǎn)出補(bǔ)償(成功)->事務(wù)完成。從下圖的執(zhí)行日志可以看出,轉(zhuǎn)出子事務(wù)失敗,還是會調(diào)用對應(yīng)的轉(zhuǎn)出補(bǔ)償操作,但子事務(wù)屏障會過進(jìn)行過濾,因此實際上并不會執(zhí)行真正的轉(zhuǎn)出補(bǔ)償邏輯,其中紅線框住的部分就是證明。

  1. 用戶1轉(zhuǎn)賬10元到用戶3

由于用戶3不存在,因此執(zhí)行路徑為:轉(zhuǎn)出(成功)->轉(zhuǎn)入(失?。?>轉(zhuǎn)入補(bǔ)償(成功)->轉(zhuǎn)出補(bǔ)償(成功)->事務(wù)完成。從下圖的執(zhí)行日志可以看出,轉(zhuǎn)入子事務(wù)失敗,還是會調(diào)用對應(yīng)的轉(zhuǎn)入補(bǔ)償操作,但子事務(wù)屏障會過進(jìn)行過濾,因此實際上并不會執(zhí)行真正的轉(zhuǎn)入補(bǔ)償邏輯,其中紅線框住的部分就是證明。

子事務(wù)屏障

在以上的示例中,重復(fù)提及子事務(wù)屏障,那子事務(wù)屏障具體是什么,這里有必要重點說明下。以上面用戶1轉(zhuǎn)賬10元到用戶3為例,整個事務(wù)流轉(zhuǎn)過程中,即轉(zhuǎn)出(成功)->轉(zhuǎn)入(失?。?>轉(zhuǎn)入補(bǔ)償(成功)->轉(zhuǎn)出補(bǔ)償(成功)->事務(wù)完成。
在提交事務(wù)之后,首先是全局事務(wù)的落庫,主要由DTM 服務(wù)負(fù)責(zé),主要包括兩張表:trans_globaltrans_branch_op,DTM 依此進(jìn)行子事務(wù)分支的協(xié)調(diào)。其中trans_global會插入一條全局事務(wù)記錄,用于記錄全局事務(wù)的狀態(tài)信息,如下圖1所示。trans_branch_op表為trans_global的子表,記錄四條子事務(wù)分支數(shù)據(jù),如下圖2所示:

具體的服務(wù)再接收到來自Dtm的子事務(wù)分支調(diào)用時,每次都會往子事務(wù)屏障表barrier中插入一條數(shù)據(jù),如下圖所示。業(yè)務(wù)服務(wù)就是依賴此表來完成子事務(wù)的控制。

而子事務(wù)屏障的核心就是子事務(wù)屏障表唯一鍵的設(shè)計,以gid、branch_id、opbarrier_id為唯一索引,利用唯一索引,“以改代查”來避免競態(tài)條件。在跨行轉(zhuǎn)賬的Saga示例中,子事務(wù)分支的執(zhí)行步驟如下所示:

  1. 開啟本地事務(wù)
  2. 對于當(dāng)前操作op(action|compensate),使用inster ignore into barrier(trans_type, gid, branch_id, op, barrier_id, reason)向子事務(wù)屏障表插入一條數(shù)據(jù),有幾種情況:
    1. 插入成功且影響條數(shù)大于0,則繼續(xù)向下執(zhí)行。
    2. 插入成功但影響條數(shù)等于0,說明觸發(fā)唯一鍵約束,此時會進(jìn)行空補(bǔ)償、懸掛和重復(fù)請求判斷,若是則直接返回,跳過后續(xù)子事務(wù)分支邏輯的執(zhí)行。
  3. 第2步插入成功,則可以繼續(xù)執(zhí)行子事務(wù)分支邏輯,執(zhí)行業(yè)務(wù)數(shù)據(jù)表操作,結(jié)果分兩種請求
    1. 子事務(wù)成功,子事務(wù)屏障表操作和業(yè)務(wù)數(shù)據(jù)表操作由于共享同一個本地事務(wù),提交本地事務(wù),因此可實現(xiàn)強(qiáng)一致性,當(dāng)前子事務(wù)分支完成。
    2. 子事務(wù)失敗,回滾本地事務(wù)

每個子事務(wù)分支通過以上步驟,即可實現(xiàn)下圖的效果:

小結(jié)

本文主要介紹了DTM的Saga模式的應(yīng)用,基于DTM 首創(chuàng)的子事務(wù)屏障技術(shù),使得開發(fā)者基于DTM 提供的SDK能夠輕松開發(fā)出更可靠的分布式應(yīng)用,徹底將開發(fā)人員從網(wǎng)絡(luò)異常的處理中解放出來,再也不用擔(dān)心空補(bǔ)償、防懸掛、冪等等分布式問題。如果要進(jìn)行分布式事務(wù)框架的選型,DTM 將是不二之選。

本文由mdnice多平臺發(fā)布

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容