Comenzó su carrera en la big band del baterista Frank Davis, en 1933, y estuvo después varios años con las bandas de Chester Boone y Milt Larkin.
En 1942 entra en la banda de Lionel Hampton, reemplazando a Illinois Jacquet, y permanece con él hasta 1947.
Después forma su propio grupo, que graba numerosos discos con una música que, en cierta forma, anticipa las fusiones posteriores con el rhythm and blues y el rock.
Pero en 1958 regresa al frente de una big band y, ya en los años 1960 y 1970, retoma sus giras y actuaciones, junto a Illinois Jacquet, el propio Hampton, o Buddy Tate, grabando además un buen número de discos.
Cobb es el genuino representante de la llamada "escuela texana de tenoristas", con un estilo duro y potente, que le valió el sobrenombre de "The Wild Man of the Tenor" (El salvaje del tenor).