Do Sparty přišel Sundermann v září 1994, ale na lavičce vydržel jen deset ligových zápasů a v březnu 1995 kvůli neshodám s vedením a tehdejším majitelem Petrem Machem odešel.
S letenským celkem měl bilanci osm výher a dvě prohry.
Ve Stuttgartu působil poprvé v letech 1976 až 1979 a klubu pomohl k postupu do nejvyšší německé soutěže. Poté se do VfB ještě vrátil v letech 1980 až 1982 a 1995. S týmem má na kontě tři umístění v nejlepší bundesligové čtyřce.
Vedle Sparty a Stuttgartu trénoval Sundermann mimo jiné i Schalke, Štrasburk nebo Grasshopper Curych. Jako hráč získal dva švýcarské tituly s Basilejí, jeden start si připsal za reprezentaci tehdejšího Západního Německa.