São José de Inhacorá, antes de sua emancipação, pertenceu aos municípios de Rio Pardo, Cachoeira do Sul, Cruz Alta, Santo Ângelo e Três de Maio até 20 de março de 1992 quando emancipou-se. Os primeiros moradores, de origem alemã, começaram a chegar na região por volta de 1923.
São José do Inhacorá está localizada a 496 Km da capital Porto Alegre.