Joe Williams是大乐团时期最有知名度的男歌手，他承接了Jimmy Rushing的传统，他在蓝调、抒情以及标准爵士都有平均的表现，但也有他自己的格调。 40年代初期与 Coleman Hawkins、Lionel Hampton等人演出。1946-47年之间与Andy Kirk的乐团做旅行演出。在与Red Saunders乐团和Hot Lips Page乐团演出之后，1954年加入Count Basie的大乐队，他在此乐队有七年的合作时间，推出很多好作品，对彼此的表现也都很满意。1961年离开 Count Basie，接着他加入小喇叭手Harry Edison的五重奏乐团。 伺候他除了偶而与 Count Basie的大乐队合作之外，就一直是一位自由身分的乐手，和他演奏过的主要乐手有萨克斯风Cannonball Adderley、钢琴手George Shearing以及Thad Jones/Mel Lewis的大乐队。