Iniciou a sua carreira em 1956, com a fundação de Os Babies, agrupamento musical especializado na interpretação de músicas de outras bandas.
Em 1960, ainda aluno da Faculdade de Direito da Universidade de Coimbra, fez parte do Conjunto Orfeão, com José Niza, Proença de Carvalho e Rui Ressurreição.
A fama chegou-lhe inicialmente através da sua participação como teclista e vocalista no conjunto Quarteto 1111, no qual obteve grande êxito com a canção A lenda de El-Rei D.Sebastião, em 1967, inovadora para a época. Ainda com o quarteto, concorreu ao Festival RTP da Canção de 1968, com Balada para D.Inês.
O álbum homónimo do Quarteto 1111 foi editado em 1970, sendo alvo de censura.
Em 1971, José Cid lançou o seu primeiro disco a solo. Nessa época, foram também editados os EPs Lisboa perto e longe e História verdadeira de Natal. No ano seguinte, lançou o EP "Camarada".
Em 1973, o Quarteto 1111 adoptou o nome Green Windows, numa tentativa de internacionalização.
Concorreu ao Festival RTP da Canção de 1974, a solo com "Uma Rosa que te Dei" e com os Green Windows, que apresentaram as canções "No dia em que o rei fez anos" e "Imagens". Uma das suas composições mais conhecidas, "Ontem, Hoje e Amanhã", recebeu um dos prémios de "composição notável" no Festival Yamaha de Tóquio, em 1975, certame a que já concorrera em 1971, com "Ficou para tia".
Formou o grupo Cid, Scarpa, Carrapa & Nabo, com Guilherme Inês, José Moz Carrapa e Zé Nabo, com o qual gravou o tema "Mosca super-star" e o EP "Vida (Sons do quotidiano)", em 1977.
Em 1978, lançou o álbum 10,000 anos depois entre Vénus e Marte, um marco na história do rock progressivo, que viria a obter mais tarde reconhecimento a nível internacional.
No Festival da OTI de 1979, ficou em 3º lugar com "Na cabana junto à praia". Com a canção "Um grande, grande amor", venceu o Festival RTP da Canção (1980) com 93 pontos. No Festival Europeu da Canção, conquistou um honroso 7º lugar, com 80 pontos, entre 19 concorrentes. Foi também na década de 80 que lançou "Como o macaco gosta de banana" e "Cai neve em Nova Iorque".
Em 1984, grava para a RTP o programa "Música Portuguesa", programa no qual é reunido o Quarteto 1111.
No início dos anos 90, José Cid causou alguma polémica ao posar nu para uma revista de acontecimentos sociais, com um dos seus discos de ouro, como forma de protesto contra a forma como as rádios desprezavam os intérpretes portugueses, incluindo ele próprio, em proveito de intérpretes estrangeiros.
Em 2000, editou o livro Tantos anos de poesia.
Em 2004, José Cid participou em anúncios de uma conhecida marca de chás gelados, nos quais se interpretou a si próprio, cantando e vindo do espaço, enquanto proferia a frase: "Olá malta! Tudo bem? Tá-se?" Também, neste ano, deu um espectáculo no Coliseu dos Recreios, que foi gravado pela RTP.
2006 foi um ano de grande sucesso para José Cid que reapareceu em grande, para espanto de muitos que já haviam vaticinado o final da sua carreira. Com algumas mudanças, tanto a nível de apresentação musical, como dos arranjos instrumentais, como das vocalizações, como da própria aparência. Também a nível da sua voz José Cid teve algumas alterações, não a nível do timbre, que se mantém praticamente inalterável, mas a nível da sua colocação, da sua tessitura, tornando-se mesmo um pouco mais grave e também rouca, o que leva José Cid a cantar as suas músicas mais emblemáticas um tom abaixo do original gravado anos ou décadas atrás. Levou a sua música aos palcos do bar Maxime, em Lisboa, em dois espectáculos com bilhetes rapidamente esgotados e um mar de gente eufórica a assistir. Lançou um novo disco, "Baladas da minha vida", com velhas canções regravadas de forma acústica sem recurso a computadores e dois temas novos, "O melhor tempo da minha vida" e "Café contigo". Em 2007, actuou no Campo Pequeno, em Lisboa, para 4800 espectadores, com quatro convidados especiais, André Sardet, Luís Represas, Quarteto 1111 e Zé Perdigão. O concerto foi gravado, e editado em DVD e CD tendo sido um sucesso e ocupado o TOP de vendas durante muitas semanas. Em 2008 confirmando a reafirmação de carreira foram inumeras as actuações em Espectáculos televisivos, programas de Rádio e Concertos de Norte a Sul do país.
José Cid assume-se como monárquico e anarquista. Vive em Mogofores, passando também longas temporadas na sua Chamusca natal.