Jeho otec Wolfgang, dlouholetý rakouský diplomat, se v roce 1930 narodil v Praze, rodina do roku 1945 žila ve vile v pražské ulici Na Ořechovce. Ta patřila jeho dědovi Herbertovi, rakouskému generálnímu konzulovi v Praze, ten ale byli podnikatelem, nebo jak se tehdy říkalo, továrníkem. Měl podíl v řadě továren a dolů v Krušnohoří a patřil k pražským německy mluvícím elitám první republiky.
Slavný malostranský chrám svatého Mikuláše byl místem Herbertovy svatby s Verou, dcerou tehdejšího německého velvyslance v Praze a přítele prezidenta Tomáše Garrigua Masaryka Waltera Kocha.
Dědeček nynějšího kancléře, sice pocházel ze slovutné šlechtické rodiny, která má první doložené předky už někdy ve 13. století, ale mezi nejbohatší rodiny rozhodně nepatřila.