Em 1984, Joaquim foi aprovado no concurso público para Procurador da República e foi atuar no Rio de Janeiro. No ano seguinte foi chefe da consultoria jurídica do Ministério da Saúde até 1988, ano que licenciou-se do cargo público e foi estudar mestrado e doutorado de Direito Público na França. Em 1993, retornou ao cargo.
Joaquim ensinou na Pontifícia Universidade Católica do Rio de Janeiro (PUC-RJ) durante os anos de 1993 até 1995. Dois anos depois, por meio de concurso público tornou-se professor da Universidade do Estado do Rio de Janeiro (UERJ), onde começou a dar aula somente em 2006 até 2015.
Veja também: Biografia do ministro do STF Ricardo Lewandowski [1]
Entre 1999 e 2000, Joaquim foi visiting scholar no Human Rights Institute da faculdade de direito da Universidade Columbia em Nova York e dois anos depois, entre 2002 e 2003, na Universidade da Califórnia Los Angeles School of Law.
Durante o governo do ex-presidente Luiz Inácio Lula da Silva, em 2003, Joaquim foi indicado ao cargo de ministro do Supremo Tribunal Federal (STF). Em 2012, Joaquim assumiu a presidência do Supremo até 2014.
Seu principal destaque na mídia foi devido ao processo do mensalão. Durante sete anos, Joaquim foi relator e coordenou toda a fase de instrução do processo, condenando mensaleiros por crime de desvio de milhões de reais de cofres públicos.
Veja também: Biografia do ministro do STF Gilmar Mendes [2]
Em 2014, Joaquim saiu da presidência do Supremo e anunciou sua aposentadoria que ocorreu por Decreto no dia 30 de julho do mesmo ano.