Rüssmann pályafutása során a Schalke és a Dortmund mezét viselte, valamint rövid ideig megfordult a belga FC Bruges-nél is.
A Bundesliga történetének egyik legjobban fejelő játékosa húsz alkalommal húzhatta fel a nyugatnémet válogatott mezét, és egy gólt szerzett. Részt vett az 1978-as vb-n is. Pályafutása befejezése után több klubnál is sportigazgatói szerepkört töltött be.