Estudió en la Hudson Academy, en Hudson, Nueva York, y "leyó" derecho con Martin Van Buren, cuyo hijo, John Van Buren, luego leyó derecho con Butler.
El investigador Francis L. Wellan, en su libro publicado en 1903, El arte del contrainterrogatorio, indicó que Butler fue considerado durante toda su vida como un abogado litigante muy eficaz y uno de los contrainterrogadores más exitosos de su época.
Desde ese año hasta 1841, se desempeñó como fiscal de los Estados Unidos para el Distrito Sur de Nueva York, ocupando el mismo cargo en una segunda ocasión entre 1845 y 1848.
Polk terminó ofreciéndole el puesto de Secretario de Guerra, pero Butler se negó, afirmando que solo aceptaría Estado o Tesoro.
En 1818 se casó con Harriet Allen; sus hijos incluían al abogado William Allen Butler y Lydia Allen Butler, quien se casó con Alfred Booth y fue la madre de Sir Alfred Allen Booth, 1st Baronet, director de Alfred Booth and Company y presidente de Cunard.