O nome remonta ao assassinato do Sr. Abel Batista da Silva, casado com D. Maria Francisca da Silva e proprietário de uma quantia considerável de terras na região. O aparecimento de seu corpo, atirado num arroio dentro de suas posses, nunca foi comprovado. A morte dele implicou no julgamento de um empregado, Salvador Carvalho, e do escravo Benjamim. O empregado foi condenado a doze anos de prisão, e o escravo morreu açoitado. O arroio onde apareceu o corpo ficou cognominado Arroio Segredo, dando origem ao nome da localidade. Ficção ou realidade, o certo é que o fato ficou marcado na memória do povo, corrobado pela tradição oral.
Segredo está localizada a 241 Km da capital Porto Alegre.