Back-End

6 fev, 2019

Migração de dados com Golang e MongoDB

100 visualizações
Publicidade

Um dos itens abordados pela metodologia twelve-factor app é a automatização de processos administrativos, como execução de scripts e migração de dados. É exatamente sobre isso que vou falar neste post: como automatizamos a migração de dados usando Go e MongoDB.

Na Code:Nation, escolhemos Go como linguagem de programação principal para o desenvolvimento do produto. Graças a esta escolha e à adoção da Clean Architecture, conseguimos rapidamente criar APIs, lambda functions, aplicações de linha de comando (CLI), bots, etc. Podemos reaproveitar a lógica das camadas da Clean Architecture para acelerar o desenvolvimento e evolução do produto.

Mas, para o processo de migração de dados, não havíamos encontrado uma forma simples de implementação em Go, por isso iniciamos usando uma solução em node.js.

A solução funcionou satisfatoriamente por vários meses, mas estávamos tendo pouca produtividade na criação dos scripts de migração. A principal razão era nossa falta de familiaridade com as nuances do node.js, principalmente o comportamento assíncrono das queries executadas no MongoDB. E o fato de não podermos reaproveitar a lógica implementada em Go nos fazia reinventar a roda em alguns momentos.

Então, fizemos uma nova pesquisa e chegamos a uma solução em Go. O primeiro passo veio da descoberta deste projeto:

https://github.com/xakep666/mongo-migrate

Fizemos algumas contribuições no projeto e chegamos a uma solução que está funcionando bem para nós.

O primeiro passo foi a criação de um aplicativo CLI que é responsável pela criação de novas migrações, bem como a execução das mesmas. O código deste aplicativo ficou desta forma:

 

Vamos começar criando uma nova migration, com o comando:

 

go run cmd/migrations/main.go new alter-user-data
O resultado é algo como:

2019/01/23 10:02:36 New migration created: ./migrations/20190123100236_alter-user-data.go
O que o comando fez foi copiar o arquivo migrations/template.go criando uma nova migração. Este é o conteúdo do template.go:

Podemos agora alterar este novo arquivo para executarmos os comandos necessários. Por exemplo:

 

 

Para executar as migrações basta:

 

go run cmd/migrations/main.go up

Ao executarmos o comando up a collection migrations é verificada para identificar qual foi a última migração efetivada. Automaticamente são executadas as que ainda estão pendentes, neste caso a 
20190123090741_alter-user-data.go e a collection é atualizada. 
Este é o comando que é executado durante o processo de deploy de uma nova versão da aplicação.

O comando down faz o processo inverso, executando a lógica da migração e a removendo da collection.

O código destes exemplos pode ser acessado neste repositório:

https://github.com/eminetto/clean-architecture-go

Com esta solução conseguimos melhorar nossa produtividade pois temos mais experiência em Go do que em node.js. Além disto, podemos reaproveitar código criado no restante do projeto, como os Use Cases da Clean Architecture. Podemos inclusive criar testes unitários para as migrações, o que deve ser um próximo passo na nossa implementação.

Se você usa a dupla Go + MongoDB acredito que esta solução pode ser útil e espero ter ajudado. ;D


Originally published at eltonminetto.net on January 23, 2019.