Van Gaal patří k nejúspěšnějším nizozemským trenérům. K četným úspěchům přivedl zejména amsterdamský Ajax, s nímž třikrát získal domácí titul, v roce 1992 vyhrál Pohár UEFA a o tři roky později Ligu mistrů.
V letech 2000-2002 vedl Van Gaal nizozemskou reprezentaci, ale nepodařilo se mu s ní postoupit na MS.
Sezonu 2002/03 strávil v Barceloně, odkud byl odvolán poté, co tým klesl do spodní poloviny tabulky španělské ligy. Poté se vrátil do Ajaxu jako sportovní ředitel, ale v říjnu 2004 skončil kvůli neshodám týkajícím se klubové strategie. V lednu 2005 nastoupil jako trenér do Alkmaaru, se kterým dobyl nizozemský titul (2008).
V létě 2009 převzal Bayern Mnichov, s nímž jednou dobyl tamní bundesligu. O tři roky později opět usedl na lavičku nizozemské reprezentace, se kterou se probojoval na světový šampionát do Brazílie. Po něm převzal slavný Manchester United, kde vydržel dva roky.
