El abuelo paterno de Gebhard llegó a Nueva York desde Holanda en 1800.
Trabajó como agente para una compañía holandesa, dedicándose finalmente a su propia empresa importadora de ginebra.
[2] Frederick Charles, el mayor de estos niños, se incorporó a la empresa familiar en 1845.
Por aquella época había expandido su negocio mercantil, invirtiendo en bancos y ferrocarriles.
[3] El más joven, Henry Jr., falleció en 1871 a los diez años de edad.
[5] Estaba muy bien relacionado con la alta sociedad de Nueva York, antiguas y acaudaladas familias como los Vanderbilt, Stuyvesant, Livingston, Remsen, Neilson, Hunt, Delafleld, Lawrence, Wells o Leverich.
Gebhard conoció a Lillie Langtry en 1882, durante una de sus primeras apariciones en Nueva York.
La pareja adquirió ranchos contiguos en California, y además Langtry fue provista de una casa en Nueva York.
Quince años más tarde, Langtry ganaría la Copa de Oro con su caballo Merman.
Gebhard más tarde estuvo relacionado con la "National Steeplechase Asociation" en Estados Unidos.
George Alexander Baird, quien más tarde también mantendría una relación con Langtry, tuvo sus caballos entrenando en el mismo establo.
[10] El abuelo materno de Gebhard, Thomas E. Davis hizo provisión para que Frederick y su hermana recibiesen ingresos de su propiedad hasta cumplir los 30, momento en el que recibirían la herencia completa.
En 1893, Gebhard debió iniciar acciones legales para hacer valer la cláususla a su favor y al de su hermana.
Este clérigo fue también el fundador de la Liga Nacional Salva una Vida, formada para impedir suicidios.
Su hermana Isabelle (Belle), se casó con Frederick Neilson en 1873, con quien tuvo tres hijos.