Pierpont Morgan härstammade från fem generationer av framstående medborgare i New England – båda sidorna av hans familj hade kommit till den nya världen före revolutionen. En av hans förfäder i mödravården var James Pierpont, en av Yales grundare, vars dotter gifte sig med Jonathan Edwards. Längre ner i den linjen kom pastor John Pierpont, Pierponts morfar, en unitarisk präst, poet och radikal aktivist mot slaveri och nykterhet. På Morgan-sidan var Pierponts farfar, Joseph, medgrundare av Aetna Insurance Company och efterlämnade ett dödsbo värt omkring en miljon dollar 1847. Junius Morgan (Josephs son) gifte sig 1836 med pastor Pierponts dotter Juliet. Ett år senare föddes deras första barn, Pierpont, i Hartford. De fick också tre döttrar – Sarah, Mary och Juliet – och Pierponts enda bror, Junius, som bara levde till elva års ålder.
Efter sina framgångar med ett torrvaruföretag i Hartford accepterade Junius Morgan att bli delägare i George Peabody & Co. (som senare blev J. S. Morgan & Co.) och flyttade hela sin familj till London 1854. Pierpont hade just tagit examen från Bostons engelska gymnasium. För att förbereda sin son för en karriär inom internationell bankverksamhet skickade Junius Pierpont till Europa efter gymnasiet för att lära sig franska och tyska. När han började arbeta som banklärling i New York 1857 vid 20 års ålder behärskade han båda språken flytande och kände till fler kulturer än de flesta amerikaner på sin tid. Under de kommande trettio åren arbetade han och hans far tillsammans med att förmedla kapital från Europa till den framväxande amerikanska ekonomin, och Pierpont korsade Atlanten minst en gång om året för att träffa sina partner i London och fortsätta sin kulturella utbildning i Europa.