Pierpont Morgan discendeva da cinque generazioni di illustri cittadini del New England – entrambi i lati della sua famiglia erano arrivati nel Nuovo Mondo prima della Rivoluzione. Uno dei suoi antenati materni era James Pierpont, un fondatore di Yale, la cui figlia sposò Jonathan Edwards. Più a valle di quella linea venne il reverendo John Pierpont, il nonno materno di Pierpont, un ministro unitariano, un poeta e un attivista radicale contro la schiavitù e la temperanza. Da parte dei Morgan, il nonno di Pierpont, Joseph, co-fondò la Aetna Insurance Company e lasciò un patrimonio di circa 1 milione di dollari nel 1847. Junius Morgan (figlio di Joseph) sposò la figlia del reverendo Pierpont, Juliet, nel 1836. Un anno dopo, il loro primo figlio, Pierpont, nacque ad Hartford. Ebbero anche tre figlie – Sarah, Mary e Juliet – e l’unico fratello di Pierpont, Junius, che visse solo fino all’età di undici anni.
Dopo il suo successo con una ditta di merci secche di Hartford, Junius Morgan accettò una partnership nella casa di investimento di George Peabody & Co. (più tardi diventerà J. S. Morgan & Co.,) e trasferì tutta la sua famiglia a Londra nel 1854. Pierpont si era appena laureato alla English High School di Boston. Per preparare suo figlio ad una carriera nel settore bancario internazionale, Junius mandò Pierpont in Europa dopo la scuola superiore per imparare il francese e il tedesco. Quando iniziò a lavorare come apprendista banchiere a New York nel 1857, all’età di vent’anni, parlava correntemente entrambe le lingue e conosceva più culture della maggior parte degli americani del suo tempo. Per i successivi trent’anni, lui e suo padre lavorarono insieme incanalando capitali dall’Europa alla nascente economia americana, e Pierpont attraversava l’Atlantico almeno una volta all’anno per incontrare i suoi partner londinesi e continuare la sua formazione culturale europea.