É um comediante, músico, apresentador e ator escocês, também conhecido em seu país natal pelo apelido The Big Yin. Largou a vida nas docas do porto de Glasgow para ir atrás de uma carreira como cantor folk numa banda de pop/folk e, posteriormente, como artista-solo. No início da década de 1970 fez a transição de cantor para a comédia, carreira que exerce até hoje. Também se tornou um ator, e apareceu em diversos filmes de sucesso, como Indecent Proposal (Proposta Indecente, 1993); Mrs. Brown (1997), pelo qual foi indicado aos prêmios BAFTA; The Boondock Saints (1999);The Man Who Sued God (2001); The Last Samurai (O Último Samurai, 2003); Lemony Snicket's A Series of Unfortunate Events (2004); Garfield 2: The Prince and the Paw-per (2008); e The X-Files: I Want to Believe (2008).

Em 1965, juntamente com Tam Harvey, Connolly começou um grupo chamado Humblebums ("vagabundos humildes"). A banda posteriormente teria na sua formação Gerry Rafferty; Connolly cantava, tocava o banjo de cinco cordas, o violão e a autoharpa, e divertia a plateia com suas introduções bem-humoradas às canções. Em sua World Tour of Scotland ("Turnê mundial da Escócia"), Connolly revelou que durante um show no Festival de Edimburgo, os Humblebums subiram ao palco pouco antes do falecido e lendário violinista Yehudi Menuhin. O trio se separou em 1971, e Connolly iniciou uma carreira solo; seu primeiro álbum, Billy Connolly Live!, foi lançado no ano seguinte pela Transatlantic Records, e conta com Connolly como cantor, compositor e músico.

Seus primeiros álbuns eram uma mistura de performances de comédia com interlúdios musicais cômicos e sérios.Entre suas performances musicais mais conhecidas estavam "The Welly Boot Song", uma paródia da música folclórica escocesa "The Wark O' The Weavers", que se tornou sua música-tema por muitos anos; "In the Brownies", uma paródia dos clássicos da banda americana Village People "Y.M.C.A." e "In the Navy" (e para a qual Connolly filmou um videoclipe); "Two Little Boys in Blue", uma crítica dura e irônica da brutalidade policial, feita ao som de "Two Little Boys", de Rolf Harris; e a balada "I Wish I Was in Glasgow", que Connolly interpretaria posteriormente num dueto com Malcolm McDowell, numa aparição especial na sitcom americana da década de 1990 Pearl (com Rhea Perlman). Também interpretou canções da época dos Humblebums, como "Oh, No!", assim como covers despretensiosas - como uma versão de "Coat of Many Colors", de Dolly Parton, que foi incluída em seu álbum Get Right Intae Him!.

Em novembro de 1975 sua paródia da canção de Tammy Wynette, "D-I-V-O-R-C-E", passou uma semana como o single número um do Reino Unido. A letra original de Wynette era sobre os pais soletrando as palavras de uma separação matrimonial iminente, para evitar traumatizar seu filho; a versão de Connolly, por outro lado, brincava com o fato de que muitos proprietários de cães usam as mesmas táticas quando não desejam aborrecer seus animais de estimação a uma ida iminente ao veterinário - a canção fala sobre um casal cujo casamento é arruinado por uma má visita ao veterinário (soletrando "W-O-R-M" ("verme") ou "Q-U-A-R-A-N-T-I-N-E" ("quarentena"), por exemplo). Sua canção "No Chance" era uma paródia de "No Charge", de J.J. Barrie's "No Charge".

Em 1985 cantou a música-tema de Supergran, lançada como single, e em 1996 interpretou uma cover de "In the Dreamtime", de Ralph McTell, como tema de sua World Tour of Australia ("Turnê mundial da Austrália"). No fim da década de 1980 Connolly havia abandonado a música de suas performances, embora ainda gravasse canções ocasionais, como uma gravação de sua composição "Sergeant, Where's Mine?", com a banda The Dubliners. Em 1998 gravou uma cover de "Being for the Benefit of Mr. Kite!", dos Beatles, no tributo a George Martin, In My Life. Recentemente executou uma canção no filme Lemony Snicket's A Series of Unfortunate Events e, em 1995 e 2005, lançou dois álbuns de performances instrumentais, Musical Tour of Scotland e Billy Connolly's Musical Tour of New Zealand, respectivamente.

Connolly está entre os artistas que participaram de Banjoman, um álbum gravado em tributo ao músico folk americano Derroll Adams, lançado em 2002, onde toca a canção "The Rock".

Casado com Pamela Stephenson.