Sherman Irby was born and raised in Tuscaloosa, Alabama. He found his calling to music at age 12. In high school, he played and recorded with gospel immortal James Cleveland. He graduated from Clark Atlanta University with a B. A. in Music Education. In 1991, he joined Johnny O’Neal’s Atlanta-based quintet. In 1994, he moved to New York City, then recorded his first two albums, Full Circle (1996) and Big Mama's Biscuits (1998), on Blue Note Records.