Jazz fusion rozpoczął się w późnych latach 60. w Stanach Zjednoczonych. W późnych latach 60. muzycy jazzowi, tacy jak Miles Davis i zespół o nazwie The Tony Williams Lifetime, zaczęli używać instrumentów elektrycznych, takich jak elektryczny bas i fortepian elektryczny w swojej muzyce jazzowej. Muzycy jazzowi zaczęli również dodawać rytmy i bity z muzyki soul, rhythm and bluesa i muzyki rockowej do swojej muzyki jazzowej. Dwa ważne albumy jazz fusion są In a Silent Way i Bitches Brew.
W 1970 roku, więcej ludzi zaczęło grać jazz fusion. Stało się to bardziej popularne, więc więcej ludzi zaczęło słuchać jazz fusion i chodzić na koncerty jazz fusion. W latach 70. muzycy jazzowi, tacy jak Herbie Hancock, Joe Zawinul, Jan Hammer i Chick Corea, zaczęli używać elektronicznych syntezatorów w swoich utworach.
W początkach lat 80. zaczął być grany nowy styl jazz fusion zwany „pop fusion”. Ten nowy styl pop fusion był bardziej miękki i wolniejszy niż fusion z początku lat 70-tych. Pop fusion był grany o wiele więcej w radiu niż fusion z początku lat 70-tych. Muzycy pop fusion obejmują Lee Ritenour, Al Jarreau, Kenny G, Bob James i David Sanborn.Steve Vai był ikoną jazz fusion w latach 80. i grał rozległe gitary oparte jazz fusion instrumentals.
.