O sucesso da banda Sheiks em 1963 (da qual é fundador) desviou-o de uma possível carreira no Benfica, onde chegou a jogar futebol nos escalões juvenis. Em 1968, devido ao destacamento militar de Paulo de Carvalho, a banda conhecida como os “Beatles portugueses” cessava o seu percurso.
Depois da participação em vários grupos como vocalista e baterista, os anos 70 marcam o início da sua carreira a solo. Participa pela primeira vez no Festival da Canção em 1970 com “Corre Nina”. Em 1971 grava o seu primeiro disco como cantor e volta ao Festival da Canção como intérprete da música “Flor sem tempo”.
“E Depois do Adeus” e o primeiro lugar no Festival da Canção
Regressa ao Festival da Canção em 1973 com “Semente” e em 1974 com a icónica canção “E Depois do Adeus” que lhe daria o 1º lugar no Festival.
Em 1975 participou com duas canções: “Com uma arma, com uma flor” e “Memória”. Em 1976 marca presença no concurso da RTP como compositor do tema “Onde é que tu moras”. Voltaria a sair vitorioso em 1977 na sua última participação da década no certame, com a canção “Portugal no Coração”.
“Lisboa, Menina e Moça” e “Os Putos” cantadas por Carlos do Carmo
No final dos anos 70 compõe as músicas “Lisboa, Menina e Moça” e “Os Putos”, com letras de Ary dos Santos e interpretadas por Carlos do Carmo. Compõe ainda a célebre canção “Nini dos meus quinze anos”, cantada pelo próprio e editada em disco em 1978.
Os anos 80 ficam marcados por inúmeras edições discográficas e por mais três participações no Festival: como compositor do tema “Olá cega-rega” interpretado por Lena d’Água, e pela última participação no concurso como intérprete (com o tema “Já pode ser tarde" de 1984). Destaque para o seu primeiro disco de ouro: Desculpem qualquer coisinha de 1985, que inclui a canção “Meninos do Huambo”.
Em 1986, é o compositor da canção “Uma balada de amor” a concurso no Festival.
Entre 1990 e 1993, Paulo de Carvalho marca presença no Festival da Canção como compositor de “Deixa lá, o pior já passou”, “Foi Aparecida”, cantada por José Carvalho, e como co-autor de “Cidade até ser dia”, música interpretada por Anabela.
Grava o disco “Alma” nos famosos estúdios Abbey Road com a London Symphony Orchestra em 1994. Ainda nos anos 90, colabora com artistas como Dulce Pontes, Ivan Lins, Carlos do Carmo, Rita Guerra, Maria João e Lara Li.
Já no século XXI, para além da edição regular de discos, dedica-se a causas sociais compondo canções para a campanha Pirilampo Mágico e o Ano Internacional do Voluntariado.
Em 2012 recebe a Medalha de Ouro da Cidade de Lisboa e em 2023 é condecorado com o grau de Comendador da Ordem da Liberdade.