Jazz fusion begyndte i slutningen af 1960’erne i USA. I slutningen af 1960’erne begyndte jazzmusikere som Miles Davis og et band kaldet The Tony Williams Lifetime at bruge elektriske instrumenter som elektrisk bas og elektrisk klaver i deres jazzmusik. Desuden begyndte jazzmusikere at tilføje rytmer eller beats fra soulmusik, rhythm and blues og rockmusik til deres jazzmusik. To vigtige jazzfusionsalbum er In a Silent Way og Bitches Brew.
I 1970’erne begyndte flere mennesker at spille jazzfusion. Det blev mere populært, så flere mennesker begyndte at lytte til jazzfusion og gå til jazzfusion-koncerter. I 1970’erne begyndte jazzmusikere som Herbie Hancock, Joe Zawinul, Jan Hammer og Chick Corea at bruge elektroniske synthesizere i deres sange.
I begyndelsen af 1980’erne begyndte man at spille en ny stil af jazzfusion kaldet “popfusion”. Denne nye stil af pop-fusion var blødere og langsommere end fusion fra de tidlige 1970’ere. Pop-fusion blev spillet meget mere i radioen end fusionen fra de tidlige 1970’ere. Pop-fusion-musikere omfatter Lee Ritenour, Al Jarreau, Kenny G, Bob James og David Sanborn.Steve Vai var et ikon for jazzfusion i 1980’erne og spillede omfattende guitarbaserede jazzfusion-instrumentaler.