Rubiataba foi primitivamente habitada por pessoas dedicadas à formação de lavouras.

Foram registrados os pioneiros, que chegaram à região em 1945: José Custódio, Manoel Francisco do Nascimento e Gabriel Pereira do Nascimento.

Em 1950 iniciou-se construção da colônia, com o nome de Rubiataba (rubiácea = café; e taba = aldeia), em virtude da existência do cafezal nativo, cultura que dominou a região na época.

Ex-povoado, Rubiataba foi elevado à categoria de distrito em 1958, e anexado ao município de Valdelândia.