Ellis joutui keskeyttämään koulunkäyntinsä varojen puutteessa ja liittyi Glen Grayn Casa Loma Orchestra´an vuonna 1943. Pitkän ja monipuolisen uran tehnyt Ellis soitti myös Jimmy Dorseyn orkesterissa ja teki levytyksiä mm Ella Fizgeraldin, Louis Armstrongin, Billie Holidayn, Stan Getzin ja Dizzy Gillespien kanssa.
Legendaarisen Oscar Petersonin Trion kitaristina hän toimi 1953-1958. Yhtyeen basistina soitti Ray Brown. Ellis oli hieman kiistanalainen jäsen triossa, koska hän oli siinä ainoa valkoihoinen aikana, jolloin rasismi oli vielä hyvin yleistä.
Kriitikoiden ylistämä Ellis soitti myös kokokoonpanossa Great Guitars, jonka muina jäseninä olivat Charlie Byrd ja Barney Kessel. Yhtenä jazzkitaran suurena nimenä pidetyn Ellis´in ura kesti yli 60 vuotta. Hän vieraili myös Suomessa.
Martti Koljonen
Barney Kessel and Herb Ellis and Charlie Byrd Medley
{youtube}L42xUwKZEsg{/youtube}