Jazz fusion começou no final dos anos 60 nos Estados Unidos. No final dos anos 60, músicos de jazz como Miles Davis e uma banda chamada The Tony Williams Lifetime começaram a usar instrumentos elétricos como baixo elétrico e piano elétrico em suas músicas de jazz. Também, os músicos de jazz começaram a adicionar ritmos ou batidas de soul music, ritmo e blues, e música rock em sua música jazz. Dois importantes álbuns de jazz fusion são In a Silent Way e Bitches Brew.
Nos anos 70, mais pessoas começaram a tocar jazz fusion. Tornou-se mais popular, então mais pessoas começaram a ouvir jazz fusion e a ir a concertos de jazz fusion. Nos anos 70, músicos de jazz como Herbie Hancock, Joe Zawinul, Jan Hammer e Chick Corea começaram a usar sintetizadores eletrônicos em suas músicas.
No início dos anos 80, um novo estilo de jazz fusion chamado “pop fusion” começou a ser tocado. Este novo estilo de fusão pop foi mais suave e lento do que o fusion do início dos anos 70. A fusão pop foi tocada muito mais na rádio do que a fusão do início dos anos 70. Os músicos de fusão pop incluem Lee Ritenour, Al Jarreau, Kenny G, Bob James e David Sanborn. Steve Vai foi um ícone do jazz fusion na década de 1980 e tocou extensos instrumentos de jazz fusion baseados na guitarra.