Mientras el Gobernador Celedonio Gutiérrez viajaba a San Nicolás de los Arroyos para el famoso Acuerdo de San Nicolás, la Legislatura Provincial vio la oportunidad de terminar con la tiranía de "El Peludo" Gutiérrez; entonces, el 14 de junio sancionó una Ley declarándolo cesante y nombraron en el cargo al Coronel Espinosa.
El 18 de junio, la Sala de Representantes se reunió nuevamente para discutir el acuerdo de San Nicolás, que finalmente fue aprobado; al mismo tiempo se sancionó el destierro de Gutiérrez, quien al regresar de viaje se encontró con la novedad y se alzó contra la autoridad constituida.
Espinosa lo derrotó, pero en 1853 se enfrentaron nuevamente, el gobernador terminó derrotado y Gutiérrez inició su cuarto mandato.
Durante su gobierno a principios de noviembre de 1852, se redactó y aprobó la constitución provincial, celebrándose el acontecimiento con grandes fiestas populares.
Dentro de su gobierno, Espinosa nombró a Uladislao Frías como ministro de Gobierno y a Salustiano Zavalía como Ministro Plenipotenciario.