Era el cuarto hijo del gran duque Constantino Nikoláyevich de Rusia y su esposa Alejandra Iósifovna.
Su hermana mayor era la reina Olga, casada con el rey Jorge I de Grecia.
Desde su infancia estaba más interesado en las letras, el arte y la música que en la educación militar necesaria para los niños Románov.
Como un talentoso pianista, el gran duque fue presidente de la Sociedad Musical Rusa, y tuvo a Chaikovski entre sus amigos más cercanos.
Fue un consumado poeta y dramaturgo que se interesó mucho en la dirección de sus obras.
También era amigo íntimo de la gran duquesa Isabel y escribió un poema sobre ella expresando su admiración cuando vino a Rusia por primera vez para casarse.
Tan ejemplar y dedicada (e incluso conservadora) como era su vida pública, su confusión privada fue intensa.
El gran duque hizo grandes esfuerzos para reprimir sus sentimientos, pero a pesar de su amor por su esposa, no pudo resistir las tentaciones.
Y así me he rendido de nuevo, sin mucha lucha, a mis inclinaciones depravadas».
El ciclo de resistencia y capitulación a la tentación es un tema común en sus diarios.
Fue extraño para mí escucharlo describir las características familiares: nunca se sintió atraído por una mujer, y ha estado encaprichado con los hombres varias veces.
Cuando estalló la Primera Guerra Mundial, el gran duque y su esposa se encontraban en Wildungen, Alemania.
En marzo de 1915, su yerno (esposo de su hija Tatiana), el príncipe Constantino Aleksándrovich Bagratión-Mujransky, murió en el frente del Cáucaso, Constantino sufrió mucho por estás pérdidas y su salud decayó.
El príncipe Gabriel Constantínovich de Rusia fue detenido en Petrogrado (San Petersburgo), mientras que sus tres hermanos fueron deportados a Alapáyevsk en los Urales.