En 1905, Berkowitz se mudó a Vilna, donde trabajó como editor del periódico hebreo HaZman.
Fue allí donde conoció y luego se casó con la hija de Sholem Aleichem en 1906.
En 1910, Berkowitz publicó sus primeras Obras completas y poco después comenzó a traducir los escritos de Sholem Aleichem del yidis al hebreo.
Dos años más tarde, tradujo La Infancia de León Tolstoi del ruso al hebreo.
Berkowitz emigró a Estados Unidos en 1913, en vísperas de la Primera Guerra Mundial.