Nacido en Stratford, Connecticut, recibió una educación limitada, enseño en una escuela, y en 1799 fue a Alto Canadá en busca de trabajo como maestro o topógrafo.
Bangs fue muy apreciado dentro de la iglesia, y podría haber recibido o solicitado una asignación más favorable.
Bangs se ofreció para ser asignado en Canadá, ya que había una desesperada demanda de voluntarios.
Sin embargo, la guerra previno que Bangs llegara a su destino, y en su lugar Bangs fue nombrado pastor encargado del circuito de Delaware, mientras que Thomas Burch fue al circuito de Montreal en su lugar.
También se opuso al antinomianismo practicado por algunos miembros rivales de la comunidad bautista New Light.