Su familia pronto tuvo que mudarse a París, y fue en la capital francesa donde Georges empezó sus estudios musicales.
Gillet participó en todos los conciertos de la Société como primer oboe hasta 1887, fecha en la que estaría en Rusia con Taffanel, Charles Turban y Camille Saint-Saëns.
Empleaba para la enseñanza los estudios de Barret, Ferling, Luft y Brod.
En 1881 publica sus célebres 25 études y aporta una contribución importante a la literatura pedagógica del oboe.
Esto hizo que muchas obras para oboe le fueran dedicadas de compositores tales como Barthe, Godard, Dimert et Colomer.