Hijo del párroco Carl Emil Ørberg y su esposa Frida Therkelsen Nyborg.
Entre 1953 hasta 1961 trabajó en el Naturmetodens Sproginstitut, instituto donde, siguiendo las teorías lingüísticas de Otto Jespersen se enseñan las lenguas según el método directo y natural de aprendizaje.
En 1955 publicó la primera edición de un nuevo curso de latín, llamado Lingua Latina secundum naturae rationem explicata, el cual ha sido revisado en diversas ocasiones hasta la edición más moderna y definitiva de 1990 titulada Lingua latina per se illustrata.
Esta obra está basada en el método inductivo-contextual, por el cual el estudiante, sin conocimiento previo del idioma a estudiar, es capaz de comprender el texto e ir asimilando su estructura gramatical de forma natural e intuitiva.
Este método está muy difundido entre los aficionados al estudio del latín vivo.