Mezi řadou jeho obětí byl v roce 1985 i Paul Castellano, kterého pak Gotti nahradil v čele mafiánské rodiny Gambinů. Gotti pak byl až do svého zatčení šest let nejznámějším americkým mafiánem a někteří američtí soudničkáři o něm tvrdili, že byl nejvýznamnějším gangsterem po Al Caponovi. Objevil se i na první stránce časopisu Time a byl považován za zločince, na něhož zákon nedosáhne.
Nakonec se jeho osudem stal nejbližší spolupracovník Sammy Gravano, který byl s Gottim zatčen a nakonec se rozhodl svědčit pro obžalobu.
Gotti údajně i při svém věznění v podzemní cele ve věznici v Marionu ve státě Illinois dále ovládal klan Gambinů prostřednictvím nejmladšího syna Johna. Ale i John Gotti junior byl nakonec zatčen a za korupci, vydírání a podvody odsouzen k 61 a půl roku vězení.
