Krzyzewski - přezdívaný Coach K - ovládl s basketbalisty Duke pětkrát univerzitní soutěž NCAA, v níž má na kontě rekordních 1170 vítězných zápasů (s Duke se radoval v 1097 případech). Před působením v Duke koučoval pět let ve vysokoškolské soutěži tým Army.
Dokonce dvakrát byl Krzyzewski uveden do basketbalové Síně slávy. V roce 2001 za své trenérské úspěchy a o devět let později jako člen amerického Dream Teamu, s kterým vyhrál olympijské turnaje v letech 2008, 2012 a 2016. Na světových šampionátech triumfoval v letech 2010 a 2014.
Krzyzewského nástupcem na škole se stane teprve třiatřicetiletý Jon Scheyer, který byl v posledních sedmi letech jeho asistentem. V letech 2006 až 2010 na Duke působil v hráčské roli.
