Primeira Era
Esse reino fora fundado por Durin, o Imortal muito antes da criação do Sol e da Lua. Durin havia despertado no Monte Gundabad não muito depois dos Elfos, e foi o mais velho dos Sete Pais dos Anões, tendo grande proeminência entre eles.
Depois da morte de Durin, a reputação de seu reino continuou a crescer, não apenas por ser seu povo descendente do mais velho dos Sete Pais dos Anões, nem pelo tamanho do reino,
Mas porque somente lá se encontrava Mithril, a Prata dos Anões, ou Prata Verdadeira, um metal muito mais caro e cobiçado que o ouro.
O Balrog De Morgoth se refugiou ao mais profundo lugar de Moria sem que desse a notar sua presença.
Segunda Era
Depois da destruição de Beleriand, muitos Anões das cidades arruinadas de Nogrod e Belegost se refugiaram em Khazad-dûm, aumentando ainda mais seu poderio, e junto com uma aliança com Humanos, os Anões venceram facilmente os Orcs, aumentando sua área de domínio.
Os Portões Oeste e os Grandes Portões continuaram como os únicos conhecidos, mas se provaram úteis durante a Guerra dos Elfos e de Sauron, o Segundo Senhor do Escuro, na metade da Segunda Era: depois de vencer os elfos de Eregion, as hostes de Sauron foram surpreendidas por um ataque maciço de Anões de Khazad-dûm, que se retiraram para trás dos portões de Narvi quando seu propósito foi atingido.
Depois disso, Sauron passou a odiar Khazad-dûm e atacá-la sempre que possível. Embora encontrasse grandiosa resistência, o povo de Durin passou a diminuir.
Terceira Era
Com a primeira derrota de Sauron Khazad-dûm pode de certa forma se recuperar, e somente 1300 anos depois os ataques de orcs recomeçaram. Mas o perigo de fora não era o maior: como as minas de Mithril mais superficiais haviam se esgotado, os Anões cavaram mais fundo, acabando por despertar um demônio de Morgoth, o Primeiro Senhor do Escuro:O Balrog.
Esse balrog acabou matando o Rei Durin VI, e seu filho, Náin. Os Anões não conseguiram vencê-lo, e fugiram então para Erebor. Esse balrog ficou conhecido como A Ruína de Durin.
Khazad-dûm ficou deserta, e os elfos aí a renomearam Moria. Os Orcs das Montanhas Nbulosas se alojaram lá, provavelmente por ordens de Sauron.