Tomado como la cuarta selección global del draft de 1997 por los San Francisco Giants, Grilli fue considerado como uno de los mejores lanzadores prospectos en todas las ligas menores, clasificado en el lugar 54 en 1998 y 44 en 1999.
Anteriormente jugó con los Chicago White Sox, Detroit Tigers, Colorado Rockies, Los Angeles Angels of Anaheim, Atlanta Braves y Toronto Blue Jays.
Grilli fue seleccionado en la primera ronda, cuarto en general, del draft de 1997 por los San Francisco Giants.
El cazatalentos Russ Bove de los Milwaukee Brewers escribió que Grilli le recordaba a Jim Palmer.
Grilli fue seleccionado por los Chicago White Sox en el draf de regla 5 del 2003.
Grilli había sido previamente muy observado por el cazatalentos de los Medias Blancas Doug Laumann.
También tuvo un buen entrenamiento de primavera y se ganó un lugar en la plantilla de los Tigres como relevista largo, lo que llevó a su primera temporada prolongada en las Grandes Ligas.
En 2007, Grilli registró marcas de su carrera en casi todas las categorías, incluyendo juegos (57), entradas (79⅔), ponches (62), ganados(5), y holds (11).
El entrenador de los Tigres Jim Leyland defendió a Grilli: ".. Me gusta Grilli porque tiene un brazo elástico ... Hay mucho que decir acerca de eso".
Este movimiento fue hecho para despejar un puesto en la plantilla para el relevista Francisco Cruceta.
La lesión y la rehabilitación le obligó a perderse toda la temporada de 2010.
Su 32 holds fueron la segunda mejor marca en la Liga Nacional, y sus 13.8 ponches por cada nueve entradas fue el cuarto mejor entre los relevistas de la Liga Nacional con 40 o más entradas lanzadas.
La recta de Grilli promedió 93,6 mph esa temporada, su velocidad más alta desde 2007.
Varios cronistas deportivos señalaron que Grilli rechazó ofertas más lucrativas de otros equipos para permanecer con los Piratas.
Sólo dos semanas más tarde, los Piratas realizaron un importante traspaso que envió al cerrador Joel Hanrahan, junto con el jugador de cuadro Brock Holt a los Boston Red Sox por el infielder Iván De Jesús, los relevistas Mark Melancon y Stolmy Pimentel y el jardinero Jerry Sands.
Al finalizar abril en la temporada 2013, Grilli fue nombrado Relevista del Mes.
Participó en tres juegos de la Serie Divisional que su equipo perdió frente a los St.