Terminó trabajando en una peluquería en Mosoriot, pero apenas podía comprar comida debido a su bajo salario.
Al poco dio un gran paso adelante ganando una carrera local de 10 km en 2001 y empezó a correr en competiciones internacionales.
[3] En su debut en el maratón, en el maratón de Milán en diciembre de 2002, tres corredores - el propio Cheruiyot, Mike Rotich y Daniele Caimmi - marcaron el mismo tiempo, 2:08:59 horas, pero Cheruiyot se hizo con el triunfo.
Se decidió que cruzó la línea de meta al hacerlo.
Cheruiyot también ganó $100,000 por la victoria y obtuvo una importante ventaja en la World Marathon Majors.