Jazz fusion iniziò alla fine degli anni ’60 negli Stati Uniti. Alla fine degli anni ’60 musicisti jazz come Miles Davis e un gruppo chiamato The Tony Williams Lifetime iniziarono ad usare strumenti elettrici come il basso elettrico e il piano elettrico nella loro musica jazz. Inoltre, i musicisti jazz cominciarono ad aggiungere ritmi o battiti dalla musica soul, rhythm and blues, e dalla musica rock nella loro musica jazz. Due importanti album di jazz fusion sono In a Silent Way e Bitches Brew.
Negli anni ’70, più persone iniziarono a suonare jazz fusion. Divenne più popolare, così sempre più persone iniziarono ad ascoltare la jazz fusion e ad andare ai concerti di jazz fusion. Negli anni ’70, musicisti jazz come Herbie Hancock, Joe Zawinul, Jan Hammer e Chick Corea iniziarono ad usare sintetizzatori elettronici nelle loro canzoni.
Nei primi anni ’80, un nuovo stile di jazz fusion chiamato “pop fusion” iniziò ad essere suonato. Questo nuovo stile di pop fusion era più morbido e lento della fusion dei primi anni ’70. La pop fusion fu suonata molto di più alla radio rispetto alla fusion dei primi anni ’70. Tra i musicisti pop fusion ci sono Lee Ritenour, Al Jarreau, Kenny G, Bob James e David Sanborn. Steve Vai è stato un’icona della jazz fusion negli anni ’80 e ha suonato molti strumenti jazz fusion basati sulla chitarra.