Pierpont Morgan stamde af van vijf generaties vooraanstaande burgers van New England – beide kanten van zijn familie waren al voor de Revolutie naar de Nieuwe Wereld gekomen. Een van zijn voorouders van moederszijde was James Pierpont, een stichter van Yale, wiens dochter trouwde met Jonathan Edwards. Verder in die lijn kwam dominee John Pierpont, Pierponts grootvader van moederszijde, een Unitarisch predikant, dichter en radicaal antislavernij- en matigingsactivist. Aan Morgan’s kant was Joseph, de grootvader van Pierpont, medeoprichter van de Aetna Insurance Company en liet hij in 1847 een vermogen na van ongeveer 1 miljoen dollar. Junius Morgan (Josephs zoon) trouwde in 1836 met de dochter van dominee Pierpont, Juliet. Een jaar later werd hun eerste kind, Pierpont, in Hartford geboren. Zij kregen ook drie dochters – Sarah, Mary en Juliet – en Pierponts enige broer, Junius, die slechts elf jaar oud werd.
Na zijn succes bij een bedrijf in droge waren in Hartford, aanvaardde Junius Morgan een partnerschap in het investeringshuis van George Peabody & Co. (later J. S. Morgan & Co.,) en verhuisde zijn hele familie in 1854 naar Londen. Pierpont was net afgestudeerd aan Boston’s English High School. Om zijn zoon voor te bereiden op een carrière in het internationale bankwezen, stuurde Junius Pierpont na de middelbare school naar Europa om Frans en Duits te leren. Tegen de tijd dat hij in 1857 op twintigjarige leeftijd als bankier in opleiding in New York aan de slag ging, sprak hij beide talen vloeiend en was hij met meer culturen vertrouwd dan de meeste Amerikanen van zijn tijd. De volgende dertig jaar werkten hij en zijn vader samen om kapitaal uit Europa naar de opkomende Amerikaanse economie te sluizen, en Pierpont stak minstens één keer per jaar de Atlantische Oceaan over om zijn Londense partners te ontmoeten en zijn Europese culturele vorming voort te zetten.