Pierpont Morgan descendía de cinco generaciones de distinguidos ciudadanos de Nueva Inglaterra: ambos lados de su familia habían llegado al Nuevo Mundo antes de la Revolución. Uno de sus antepasados maternos fue James Pierpont, fundador de Yale, cuya hija se casó con Jonathan Edwards. Por esa misma línea llegó el reverendo John Pierpont, abuelo materno de Pierpont, ministro unitario, poeta y activista radical antiesclavista y de la templanza. Por parte de los Morgan, el abuelo de Pierpont, Joseph, fue cofundador de la compañía de seguros Aetna y dejó un patrimonio de un millón de dólares en 1847. Junius Morgan (hijo de Joseph) se casó con la hija del reverendo Pierpont, Juliet, en 1836. Un año después nació su primer hijo, Pierpont, en Hartford. También tuvieron tres hijas -Sarah, Mary y Juliet- y el único hermano de Pierpont, Junius, que sólo vivió hasta los once años.
Tras su éxito en una empresa de productos secos de Hartford, Junius Morgan aceptó ser socio de la casa de inversiones George Peabody & Co. (que más tarde se convertiría en J. S. Morgan & Co.,) y trasladó a toda su familia a Londres en 1854. Pierpont acababa de graduarse en la English High School de Boston. Para preparar a su hijo para una carrera en la banca internacional, Junius envió a Pierpont a Europa después del instituto para que aprendiera francés y alemán. Cuando empezó a trabajar como aprendiz de banquero en Nueva York en 1857, a la edad de veinte años, dominaba ambos idiomas y estaba familiarizado con más culturas que la mayoría de los estadounidenses de su época. Durante los siguientes treinta años, él y su padre trabajaron juntos canalizando capital de Europa a la emergente economía estadounidense, y Pierpont cruzaba el Atlántico al menos una vez al año para reunirse con sus socios londinenses y continuar su formación cultural europea.