Pierpont Morgan descende de cinco gerações de distintos cidadãos da Nova Inglaterra – ambos os lados da sua família tinham vindo para o Novo Mundo antes da Revolução. Um de seus antepassados maternos foi James Pierpont, fundador de Yale, cuja filha se casou com Jonathan Edwards. Mais adiante, o reverendo John Pierpont, avô materno de Pierpont, um ministro unitário, poeta e ativista radical da antiescravidão e da temperança. Do lado da Morgan, o avô de Pierpont, Joseph, cofundou a Companhia de Seguros Aetna e deixou uma propriedade no valor de cerca de 1 milhão de dólares em 1847. Junius Morgan (filho de Joseph) casou-se com a filha do Reverendo Pierpont, Julieta, em 1836. Um ano depois, o primeiro filho deles, Pierpont, nasceu em Hartford. Eles também tiveram três filhas – Sarah, Maria e Julieta – e o único irmão de Pierpont, Junius, que viveu apenas até os onze anos de idade.
Depois de seu sucesso com uma firma de produtos secos de Hartford, Junius Morgan aceitou uma sociedade na casa de investimento de George Peabody & Co. (mais tarde para se tornar J. S. Morgan & Co.,) e mudou toda a sua família para Londres em 1854. Pierpont tinha acabado de se formar na Escola Secundária de Inglês de Boston. Para preparar o seu filho para uma carreira na banca internacional, Junius enviou Pierpont para a Europa depois da escola secundária para aprender francês e alemão. Quando começou a trabalhar como aprendiz de bancário em Nova York, em 1857, aos 20 anos de idade, ele era fluente em ambas as línguas e familiarizado com mais culturas do que a maioria dos americanos de sua época. Durante os trinta anos seguintes, ele e seu pai trabalharam juntos canalizando capital da Europa para a economia americana emergente, e Pierpont cruzou o Atlântico pelo menos uma vez por ano para se encontrar com seus parceiros londrinos e continuar sua educação cultural européia.