Berilo hoje completa 62 anos de emancipação política, uma história começa muito antes disso.
A história de Berilo remonta ao início do século XVIII, quando bandeirantes paulistas, liderados por Sebastião Leme do Prado, encontraram ouro na região e fundaram um povoado na confluência do rio Araçuaí com o córrego Água Suja. Com o tempo, o local cresceu, primeiro impulsionado pela mineração e depois pela agricultura e pecuária.
O nome do município passou por várias mudanças. Inicialmente chamado Nossa Senhora da Conceição de Água Suja, depois Água Limpa, foi renomeado para Berilo em 1923, em referência à pedra preciosa encontrada na região.
Berilo foi elevado à categoria de município em 30 de dezembro de 1962, desmembrando-se de Minas Novas. A instalação oficial ocorreu em 1º de março de 1963, com os distritos de Berilo e José Gonçalves de Minas.