Empezó disputando el Campeonato Paulista da APEA (Associação Paulista de Esportes Atléticos) de 1927 a 1931, con óptimas participaciones, pasando después a disputar los Campeonatos Amateur del Interior.
El auge de esa época sería marcado por el Campeonato Nacional conquistado en 1978, con un equipo donde se destacaban Careca, Zenon, Renato y el entreinador Carlos Alberto Silva.
Hasta ahora, Guaraní es el único club del interior de Brasil en conseguir el Campeonato Brasileño; luego fue subcampeón del Torneio dos Campeões de 1982 perdiendo la final con el America do Rio.
Al año siguiente, fue subcampeón paulista, siendo vencido por Corinthians en la prórroga del segundo partido.
Los guaraníes, después de haber pasado por una grave crisis financiera, en 2011 llegó a ser colocado en el medio de la Serie B por no pagar los salarios a los jugadores durante 5 meses, pero superó la crisis, sin caer en la Serie C. Hoy en día, se ha recuperado de la crisis, ha reunido a un equipo fuerte y quedó subcampeón en el Campeonato Paulista de 2012.