Rindt Németországban, Mainzban látta meg a napvilágot. Kétéves volt, amikor szülei Hamburg bombázásában életüket vesztették, ezután anyai nagyszülei nevelték Grazban, sikereit osztrák állampolgárként aratta. Az önfejű és lázadó természetű fiú beszállt ugyan a családi fűszerkereskedő-cégbe, de jobban izgatta a veszély és a sebesség. Kétszer törte végtagját iskolai síversenyen, és számtalanszor járművét, amikor áttért a terepmotorozásra.
Az arroganciáig magabiztos, rendkívül tehetséges Rindt 1962-ben már túraautó-bajnokságon indult egy Alfa Romeo Giulietta kormánya mögött, majd együlésesek következtek, amelyeket riasztó gyakorisággal tört össze, sokszor ő maga is kórházba került.
Útja egyre magasabbra vezetett, 1963-ban már a Formula Junior kategóriában szerepelt, még egy versenyképtelen kocsival is meglepően jó eredményekkel. A következő évben két Formula–2-es versenyt nyert, megelőzve többek között az ebbe a kategóriába „leránduló" Graham Hillt és Jim Clarkot is. Sikerének köszönhetően 1964-ben egyetlen Formula–1-es futamon, az Osztrák Nagydíjon is volán mögé ülhetett.
1965-ben hároméves szerződést írt alá a Formula–1-es Cooper-csapattal. Az itt töltött idő alatt igen látványos versenyeket vívott. 1966-ban harmadik lett az összetettben, de még futamgyőzelmet sem aratott: ennek fő oka az volt, hogy ellenfelein kívül a teljesen megbízhatatlan autójával is meg kellett küzdenie.
Rindt közben 1965-ben egy Ferrarival megnyerte a Le Mans-i 24 órás versenyt, és továbbra is indult a Formula–2-ben, ahol sokkal jobb eredményeket ért el: 1967-ben kilenc nagydíjon diadalmaskodott.
Vezetési stílusa gyors, agresszív, de mindig tiszta volt, ahogy egy lapban írták: „autója szinte az oldalán futva olyan sebességgel vette be a kanyarokat egészen hihetetlen szögből, hogy minden alkalommal úgy tűnt, most fog leszaladni az útról″.
Rindt hazájában már nemzeti hősnek számított, a köré szövődő legendákat tovább gyarapította, amikor Indianapolisban karambolozott, de teljesen nyugodtan szállt ki a már égő kocsiból, az orvosi vizsgálat szerint szívverése teljesen normális maradt.
Az 1968-as évadot a Brabham-csapatnál töltötte, itt már két pole pozíció jutott neki, de ez az autó sem volt versenyképes a nagyokkal. Többen már kételkedni kezdtek a vakmerő osztrák képességeiben, erre azonban a következő évben rácáfolt: a Lotus csapat színeiben megszerezte első győzelmét. Ebben a szezonban is volt egy látványos balesete, légterelője hibája miatt bukott, de állkapocstöréssel és agyrázkódással megúszta a kalandot.
Rindt, akinek ügyeit Bernie Ecclestone intézte, 1970-ben futotta utolsó és legeredményesebb szezonját. Öt futamgyőzelmet aratott, Monacóban a háromszoros világbajnok Jack Brabhamet verte meg. Rindt ekkor sírt a boldogságtól, majd a következő néhány hétben elsiratta két közeli barátját: Bruce McLarent és Piers Courage-t, akik a versenypályán vesztették életüket. Komolyan mérlegelni kezdte a visszavonulás lehetőségét, finn fotómodell feleségének – aki épp akkor szült neki kislányt – megígérte, hogy ha világbajnok lesz, az évad végén felhagy a versenyzéssel.
A sors azonban közbeszólt. Rindt 1970. szeptember 5-én Monzában az Olasz Nagydíjon új Lotust próbált ki, a járműről – hogy versenyképes legyen a hazai pályán induló Ferrarikkal szemben –
leszerelték a hátsó szárnyat. Az edzésen a célegyenesbe fordító Parabolica-kanyarban kicsúszott, és háromszáz kilométer/órás sebességgel a szalagkorlátnak vágódott, a pilóta a kórházba szállítás közben meghalt.
A baleset okára soha nem derült fény, egyesek szerint a hiányzó hátsó szárny miatt vált irányíthatatlanná a kocsi, mások szerint technikai hiba történt. Ekkor még három futam volt hátra, s a belga Jacky Ickx megnyerhette volna a bajnokságot, ha mindegyiken diadalmaskodik. Az utolsó versenyen azonban Rindt csapattársa, a fiatal brazil Emerson Fittipaldi győzött, bebiztosítva a világbajnoki elsőséget a már halott Jochen Rindt számára.
Rindt a rajongók és a fotósok kedvence volt, számtalan látványos „akciófotót" készítettek róla verseny közben. Formula–1-es pályafutása során 60 versenyen állt rajthoz, hat győzelmet és 13 dobogós helyezést szerzett. A világbajnokságért járó kupát özvegye és kislánya vette át.