Joseph Rubinstein nació en una familia judía adinerada en la parte ucraniana del Imperio ruso.
Durante una gira de conciertos por San Petersburgo aprendió del crítico musical y compositor Alexander Serow y conoció por primera vez las obras de Richard Wagner.
Cósima Wagner informó sobre esto a Friedrich Nietzsche: Deberías ver aquí una carta extraña de alguien que busca la salvación a través de la participación en Bayreuth.
Wagner se limitó a decirle a Cósima: los ensayos de piano terminaron con el despido total del señor Rubinstein, quien por una vez más demostró las características más tristes de su tribu.
Tocó íntegramente el Clave bien temperado ' de Johann Sebastian Bach durante seis noches y transfirió sus honorarios al fondo del festival.