Jazz fusion begon aan het eind van de jaren zestig in de Verenigde Staten. Eind jaren zestig begonnen jazzmusici als Miles Davis en een band genaamd The Tony Williams Lifetime elektrische instrumenten als elektrische bas en elektrische piano te gebruiken in hun jazzmuziek. Ook begonnen jazzmuzikanten ritmes of beats uit soulmuziek, rhythm and blues en rockmuziek toe te voegen aan hun jazzmuziek. Twee belangrijke jazz fusion albums zijn In a Silent Way en Bitches Brew.
In de jaren 70 begonnen meer mensen jazz fusion te spelen. Het werd populairder, dus meer mensen begonnen naar jazz fusion te luisteren en naar jazz fusion concerten te gaan. In de jaren zeventig begonnen jazzmusici als Herbie Hancock, Joe Zawinul, Jan Hammer en Chick Corea elektronische synthesizers te gebruiken in hun nummers.
In het begin van de jaren tachtig begon men een nieuwe stijl van jazzfusion te spelen die “popfusion” werd genoemd. Deze nieuwe stijl van popfusion was zachter en langzamer dan de fusion uit het begin van de jaren zeventig. Pop fusion werd veel meer gedraaid op de radio dan de fusion uit de vroege jaren 1970. Pop fusion musici zijn o.a. Lee Ritenour, Al Jarreau, Kenny G, Bob James en David Sanborn.Steve Vai was een icoon van de jazz fusion in de jaren 80 en speelde uitgebreid op gitaar gebaseerde jazz fusion instrumentals.