Rother comenzó tocando la guitarra en el grupo Spirits Of Sound en la segunda mitad de los años 60.
y junto al productor Conny Plank grabaron Neu!, que fue lanzado en 1972.
2), el dúo se separaría temporalmente y Rother comenzaría a trabajar con Dieter Moebius y Hans-Joachim Roedelius (integrantes de Cluster, con quienes formó Harmonia.
4 salió casi diez años después y sin el permiso de Rother.
Desde 1998 Rother ha salido frecuentemente de gira, en muchas ocasiones junto a Dieter Moebius.
En ese mismo año tocó en dos recitales en Hamburgo de Secret Machines.