Nació en Ormaiztegi en diciembre de 1788. Hijo del escribano de Idiazabal, quiso seguir los pasos de su padre para lo que recibió formación. Estaba estudiando en Pamplona cuando la invasión napoleónica cambió su destino. Se unió a la partida guerrillera de Jáuregui "El Pastor" en 1812. Su participación en esta guerra culminó en la batalla de San Marcial, en la que fue condecorado.
Al terminar el conflicto con el grado de capitán decidió seguir la carrera militar. Conoció diversos destinos hasta que la revolución de 1820 le apartó del mando por su adscripción a los sectores más conservadores de la milicia.
En 1822 se incorpora a los sublevados realistas bajo las órdenes de Genaro Quesada, jefe del levantamiento en Navarra. Luchó contra los liberales como comandante del Segundo Batallón de Voluntarios de Navarra. Cuando las potencias europeas, para poner fin a la experiencia liberal española, envían a los "100.000 hijos de San Luis", se unirá a esta fuerza comandada por el duque de Angouleme, colaborando en el sitio de Lérida, en octubre de 1823.
Al año siguiente se encargará de organizar el Batallón de Voluntarios Realistas de Navarra, mientras participa en la represión contra los liberales en la comisión militar de Pamplona. Continuó su carrera militar siendo destinado a Huesca, Toledo, Soria, Zaragoza y Madrid. En 1832 es nombrado gobernador militar de El Ferrol. Su poca clara actuación durante la frustrada sublevación absolutista que provocó la caída del gobierno conservador de Calomarde, le llevó ante los tribunales militares. Aunque salió absuelto estuvo separado del mando en el último año del reinado de Fernando VII. Solicitó el retiro a Pamplona y fue allí donde se encontraba al morir este monarca y estallar el levantamiento de los seguidores de Don Carlos .
En octubre se une a los sublevados y consigue asumir su jefatura primero en Navarra y, poco después, en todo el territorio vasco. Demuestra unas magníficas dotes organizativas ya que, en pocos meses, convierte unos grupos guerrilleros dispersos en un ejército capaz de enfrentarse a las mejores tropas españolas. Utilizó las tácticas guerrilleras mientras formaba a sus tropas para poder hacer frente a los más prestigiosos generales defensores de Isabel II. Tras la llegada del Pretendiente en julio de 1834, que le confirmó como jefe militar de sus seguidores, derrotó a Rodil, Espartero, Carondelet, O'Doyle, Cordova, Espoz y Minay Valdés, la flor y nata del ejército español, en menos de un año.
En abril de 1835 firmará el Convenio Eliot, que recibe el nombre del embajador inglés enviado para regular la sangrienta guerra civil y a partir del cual los contendientes comenzarán a hacer prisioneros y respetar a los heridos. Esta firma supone también el reconocimiento internacional del ejército carlista.
Tras derrotar a Espartero en Descarga y la toma de Ordizia, las tropas liberales se refugiarán en las capitales, dejando prácticamente el resto del territorio vasco en manos carlistas.
En junio el Pretendiente le ordenará intentar la conquista Bilbao. Al iniciarse el sitio Zumalacárregui es herido en una rodilla y pide ser trasladado a Cegama para su curación. A pesar de que los médicos que le atendieron no consideraban grave la herida, murió a consecuencia de ella nueve días después.