Pro jeho stavby rozeseté po celém světě jsou typické strohé linie, využití kamene, betonu, skla a oceli. Proslulost získal například odvážnou skleněnou pyramidou u pařížského Louvru nebo budovou Čínské banky v Hongkongu.
„Geometrie zůstává základní myšlenkou mé architektury,“ tvrdí Pei, který za svoji kariéru navrhl velké množství budov - od průmyslových mrakodrapů, univerzitních budov přes muzea (východní křídlo Národní galerie ve Washingtonu, muzeum Mihó nedaleko Kjóta, muzeum v Bostonu či nové křídlo Muzea historie v Berlíně), banky, hotely až po nízkorozpočtové domy, nemocnice, kostely či letecký terminál.
K jeho slavným budovám patří hotel Four Seasons na 57. ulici v New Yorku, knihovna Johna F. Kennedyho v Bostonu, Rokenrolová síň slávy v Clevelandu nebo Národním centrem atmosférického výzkumu v Coloradu. Mezi jeho poslední práce patří třeba Muzeum moderního umění v Lucemburku (Mudam), Muzeum islámského umění v katarském Dauhá nebo Vědecké středisko v Macau.
Pei se narodil v Kantonu jako syn známého bankéře. Vyrostl v Šanghaji, v 18 letech se přestěhoval do USA, kde studoval architekturu na Pensylvánské univerzitě, titul bakaláře architektury pak získal v roce 1940 na prestižním Massachusettském technickém institutu (MIT). Poté byl asistentem na Harvardově univerzitě. Od roku 1954 občanem USA, o rok později si v New Yorku založil svou první architektonickou firmu.
Patrně nejznámější zakázku získal Pei v letech 1983 - 1989, rozšíření a modernizaci muzea v Louvru. Projekt inicioval i tehdejší francouzský prezident François Mitterrand. Peiův návrh na velkou vstupní pyramidu ze skla a oceli v sousedství starých budov byl šokující. Mitterrandovi se ale líbil a prosadil jej, i když s ním nesouhlasilo na 70 procent Francouzů. Dnes je pyramida jednou z dominant města nad Seinou.
V roce 1942 se oženil s Číňankou Eileen Loovou, která v USA rovněž studovala a jež zemřela v roce 2014. Měli spolu tři syny a dceru.
