Está especializado en instrumentos de lengüeta, especialmente saxofón alto, clarinete, clarinete bajo, flauta, y shakuhachi (flauta de bambú japonesa).
Rothenberg se graduó en el Oberlin Conservatory of Music.
Fue miembro fundador (junto con J. D. Parran y Robert Dick) del trío experimental de instrumentos de lengüeta, New Winds.
Ha tocado con una gran cantidad de músicos, como Sainkho Namtchylak, Samm Bennett, Fred Frith, Paul Dresher, Yuji Takahashi, Elliott Sharp, John Zorn, Katsuya Yokoyama, Evan Parker, Marc Ribot, o Samir Chatterjee.
Ha grabado para los sellos Lumina, Tzadik, New World, Axiom, Sub Rosa, Intuition, Victo, Leo, y Animul labels.