En el formato del ciclo de cantata coral de Bach, las palabras del himno se conservan sin cambios sólo en los movimientos exteriores, mientras que un libretista contemporáneo desconocido parafraseó las estancias interiores para recitativos y arias.
Escribió Ach Herr, mich armen Sünder como la cuarta cantata de este ciclo, que había comenzado dos semanas antes con O Ewigkeit, du Donnerwort, BWV 20.
La cantata se basa íntegramente en la coral «Ach Herr, mich armen Sünder» (1597) de Cyriakus Schneegass, una paráfrasis del Salmo 6 en seis estancias.
Bach compuso la obra para tres solistas vocales (alto (A), tenor (T) y bajo (B)), un coro de cuatro partes y un conjunto instrumental barroco: cornetto (Ct) para reforzar la melodía coral de la soprano en el último movimiento, trombón (Tb) para reforzar la melodía coral baja en el primer movimiento, dos oboes (Ob), dos violines (Vl), viola (Va) y bajo continuo (Bc).
[4] Según el erudito de Bach Christoph Wolff, las primeras cuatro cantatas del ciclo forman un grupo, distintivamente diferentes en sus fantasías corales.
Las ocho líneas del texto se tratan primero instrumentalmente y luego vocalmente.
La anticipación instrumental es un trío sin bajo continuo de oboe I y II contra las cuerdas, que tocan al unísono el cantus firmus.
En las palabras «daß ich mag ewig leben» (que pueda vivir para siempre), el cantus firmus se amplía a tres veces más lento.
[9] La cantata se cierra con una coral a cuatro voces, la soprano reforzada por el cornetto.