También por aquellos años inició su carrera política. En 1859
resultó elegido diputado por la provincia de Buenos Aires.
Luego, entre 1868 y 1873 (durante la presidencia de Domingo
Faustino Sarmiento), fue ministro de Justicia, Culto e
Instrucción Pública. Desde este cargo posibilitó que se
plasmaran los proyectos educativos de Sarmiento por medio
de la creación de numerosas escuelas primarias y normales y
de colegios nacionales en todo el país.
El 12 de abril de 1874 derrotó al ex presidente Bartolomé Mitre
en las elecciones presidenciales (para presentarse a ellas
había renunciado un año antes a su desempeño ministerial).
Junto a él, como vicepresidente, se eligió a Mariano Acosta,
proveniente del Partido Autonomista de Adolfo Alsina. El 12 de
octubre, Avellaneda tomó posesión y relevó a Sarmiento,
quien también le había dado su apoyo. A finales de ese mismo
año reprimió la rebelión iniciada por Mitre el 24 de septiembre
tras considerar ilegal la elección.