História da cidade começa com a ocupação dos bandeirantes no fim do século XVII. Nessa época, foram fundados os povoados de São José do Paraopeba, Piedade do Paraopeba, Aranha e Brumado do Paraopeba ou Brumado Velho, hoje denominado Conceição de Itaguá.

A partir de 1917, com a inauguração da Estação Ferroviária, muitos trabalhadores vieram para o povoado.

O Município de Brumadinho foi criado por meio do Decreto-Lei nº 1478, no dia 17 de dezembro de 1938, desmembrando-se da vizinha Bonfim. Foram anexados os distritos de Aranha e São José do Paraopeba, saídos do município de Itabirito, e de Piedade do Paraopeba que fora desmembrado do município de Nova Lima. O distrito do Brumado do Paraopeba [atualmente conhecida como Conceição de Itaguá], foi fundado por volta de 1914 e pertencia ao município de Bonfim. Contudo, em 1953, Conceição de Itaguá se tornou Distrito de Brumadinho. Em 25 de maio de 1955, o município de Brumadinho foi elevado para categoria de Comarca Judiciária, pois antes estava circunscrito em Bonfim.

O nome da cidade deve-se às famosas brumas que são comuns na região, especialmente no período da manhã.

Brumadinho está numa região situada no Maciço do Espinhaço e início do Tabuleiro do Oeste, que começou a ser colonizada pelos “insubmissos” da Guerra dos Emboadas, que teve seu berço no Município de Caeté - MG. A principal atividade econômica, já naquela época era o garimpo do ouro, que por aqui estavam livres dos impostos da Coroa.

A suntuosidade da igreja de Piedade do Paraopeba, comunidade localizada cerca de 20km da sede de Brumadinho, leva a crer que ali era o centro dos mineradores, pois somente uma localidade que tivesse um número relativamente grande de moradores e que possuísse renda suficiente, poderia propiciar a construção da igreja.