« HE:labs
HE:labs

Estouro de memória ao fazer loops com MongoDB

Postado por Cayo Medeiros (yogodoshi) em 17/01/2013

Esse post não será útil para 99% dos desenvolvedores mas tenho certeza de que será um salvador de vidas pro 1% que está passando pelo mesmo perrengue que passei.

Deixe-me adivinhar: você está usando MongoDB com Mongoid ou MongoMapper? Tem uma collection razoavelmente grande, com 100-150k de documentos? A memória do seu servidor vai nas nuvens quando faz um loop ou roda uma migration nessa collection? Ou o Heroku começa a baleiar porque a memoria do dyno já passou dos 512 megas faz tempo?!

Você já leu várias perguntas e respostas no StackOverflow, procurou na documentação do MongoDB e do seu ODM preferido e também não encontrou a resposta?

Eu já estive nos seus sapatos e depois de MUITO sofrer com esse problema no Estou Jogando, encontrei o maldito motivo: o Identity Map!

O Identity Map é muito útil pois reduz a quantidade de consultas que fazemos ao banco e também é necessário quando queremos fazer eager loading nos relacionamentos entre as coleções.

Porém, quando fazemos um loop em uma collection gigantesca com o Identity Map habilitado, ele vai tacando todos os milhares de documentos pra memoria e isso, obviamente, não há servidor que aguente.

Então a solução pra esse problema é bem simples: você não precisa desabilitar o Identity Map globalmente na sua aplicação nem nada, basta desabilita-lo antes de fazer um grande loop na sua aplicação. No Mongoid ficaria assim:

1 Mongoid.unit_of_work(disable: :all) do
2       Jogo.only(:jogos_relacionados, :nome, :genero, :plataforma).asc(:plataforma, :nome) .each do |jogo|
3           jogo.popula_jogos_relacionados
4       end
5   end

A primeira linha serve justamente para desabilitar o Identity Map em tudo que ocorrer dentro do bloco interno. Outra dica ao fazer loops em grandes coleções é puxar da collection apenas os campos que serão usados no loop, com o Mongoid isso é feito através do 'only' e do 'without'.

É isso pessoal, espero que essa descoberta seja tão útil pra vocês como foi pra mim! E se esse post lhe ajudou, deixe um comentário avisando para os próximos leitores =)

Compartilhe

Sabia que nosso blog agora está no Medium? Confira Aqui!