Makélélé 1992-ben kezdte profi pályafutását a Nantes-ban, majd egy szezont a Marseille-nél töltött és ezután 1998-ban költözött Spanyolországba, ahol a Celta Vigo játékosa volt két éven át. Itt hívta fel magára a Real Madrid figyelmét, amellyel három év alatt többek közt megnyerte a Bajnokok Ligáját, illetve kétszer a spanyol bajnokságot.
A 2002–2003-as szezonban megromlott a viszonya a királyi gárda elnökével, Florentino Pérezzel, így az angol Chelsea-hez szerződött, ahol két bajnokság, két Ligakupa és 1-1 Community Shieldet és FA-kupát nyert.
Pályafutása utolsó éveiben a PSG-nél töltötte, amellyel 2010-ben elhódította a Francia Kupát.
Makélélé összesen 71 alkalommal szerepelt a francia válogatottban.