Poco después se convirtió en el baterista del armonicista Little Walter.
En 1960, se convirtió en el baterista habitual de Muddy Waters y permaneció en la banda de Waters hasta 1966 En ese tiempo también comenzó a grabar y actuar con destacados músicos de blues, incluidos Willie Dixon, Howlin' Wolf, Eddie Taylor, John Lee Hooker, Junior Wells, Bo Diddley, Magic Sam, Jimmy Rogers y Earl Hooker.
[4] Las grabaciones que Lay realizó durante este tiempo, junto con el álbum Fathers and Sons de Waters, grabado en 1969, se consideran entre las obras definitivas de Waters y Wolf.
[4] Bob Dylan utilizó a Lay como baterista cuando introdujo el rock eléctrico en el Festival Folk de Newport en 1965.
Su propio álbum, Sam Lay in Bluesland, lanzado en 1969 por Blue Thumb Records, fue producido por Nick Gravenites.