Pierpont Morgan öt generációnyi előkelő új-angliai polgár sarja volt – családjának mindkét ága a forradalom előtt érkezett az Újvilágba. Anyai felmenői közül az egyik James Pierpont, a Yale alapítója volt, akinek lánya hozzáment Jonathan Edwardshoz. Ezen a vonalon lejjebb származott John Pierpont tiszteletes, Pierpont anyai nagyapja, aki unitárius lelkész, költő, radikális rabszolgaságellenes és mértékletességi aktivista volt. A Morgan-ágon Pierpont nagyapja, Joseph, az Aetna biztosítótársaság társalapítója volt, és 1847-ben mintegy 1 millió dolláros vagyont hagyott hátra. Junius Morgan (Joseph fia) 1836-ban feleségül vette Pierpont tiszteletes lányát, Juliet-et. Egy évvel később Hartfordban megszületett első gyermekük, Pierpont. Három lányuk is született – Sarah, Mary és Juliet – és Pierpont egyetlen testvére, Junius, aki csak tizenegy éves koráig élt.
Miután sikereket ért el egy hartfordi szárazáru céggel, Junius Morgan elfogadta a George Peabody & Co. befektetési házban való partnerséget. (később J. S. Morgan & Co. lett), és 1854-ben egész családjával Londonba költözött. Pierpont éppen akkor végzett a bostoni angol gimnáziumban. Hogy felkészítse fiát a nemzetközi banki karrierre, Junius a középiskola után Európába küldte Pierpontot, hogy megtanuljon franciául és németül. Mire 1857-ben, húszévesen New Yorkban bankártanoncként kezdett dolgozni, már mindkét nyelvet folyékonyan beszélte, és több kultúrát ismert, mint a korabeli amerikaiak többsége. A következő harminc évben apjával együtt dolgozott azon, hogy Európából tőkét áramoltasson a feltörekvő amerikai gazdaságba, és Pierpont évente legalább egyszer átkelt az Atlanti-óceánon, hogy találkozzon londoni partnereivel, és folytassa európai kulturális műveltségét.