Ne bez kompromisů ho provedl normalizací, ale každopádně s sebou přinesl charizma, muzikálnost, bodrost a nemalou mezinárodní zkušenost.
V Supraphonu po něm zůstal největší zvukový archiv, jaký kdy u nás nějaký umělec vytvořil. A protože příští rok uplyne 95 let od Neumannova narození a dvacet let od úmrtí, vychází s předstihem komplet šesti CD, který legendu zachycuje jako ještě relativně mladého dirigenta s různými orchestry. Většina snímků se na CD objevuje poprvé.
Jsou mezi nimi i perličky, třeba Čajkovského skladba Roční doby, původně určená pro klavír a instrumentovaná Václavem Trojanem. Neumann ji natočil s Filmovým symfonickým orchestrem roku 1957 a později ji nazýval „hříchem mládí“. Do šedesátých let spadají první Neumannovy mahlerovské nahrávky, předzvěst pozdějších významných kreací. Raritou jsou bezesporu dvě skladby Oliviera Messiaena, inspirované ptačím zpěvem.
Kuriozitou jiného druhu je Dvořákovo Nokturno, jež Neumann sČeskou filharmonií natočil jen pár týdnů po vpádu vojsk Varšavské smlouvy do Československa. Na protest tehdy opustil prestižní post ředitele lipského Gewandhausu. A protože Česká filharmonie osiřela po emigraci Karla Ančerla, převzal Neumann v prosinci 1968 její vedení.