Ahonen se graduó en la escuela a los 16 años, comenzando después estudios de música en Víborg y Lahti.
Ahonen fue también un importante actor cinematográfico, aunque su carrera en la gran pantalla progresó con lentitud hasta ser reconocido gracias a su papel de Riitaoja en Tuntematon sotilas (1955).
Entre sus obras teatrales más destacadas figuran La princesa gitana, Noche de reyes, Peer Gynt, Seitsemän veljestä, Don Quijote, Nummisuutarit y la obra infantil Katto-Kassinen.
Olavi Ahonen actuó también en teatro televisado en los años 1970 a la vez que continuaba su carrera en el cine.
Ahonen interpretó principalmente papeles de reparto en el cine, aunque fue protagonista en Viimeinen savotta (1977) y Uunon huikeat poikamiesvuodet maaseudulla (1990).