Jazz fusion begann in den späten 1960er Jahren in den Vereinigten Staaten. In den späten 1960er Jahren begannen Jazzmusiker wie Miles Davis und eine Band namens The Tony Williams Lifetime, elektrische Instrumente wie E-Bass und E-Piano in ihrer Jazzmusik zu verwenden. Außerdem begannen Jazzmusiker, Rhythmen oder Beats aus der Soulmusik, dem Rhythm and Blues und der Rockmusik in ihre Jazzmusik zu integrieren. Zwei wichtige Jazz-Fusion-Alben sind In a Silent Way und Bitches Brew.
In den 1970er Jahren begannen mehr Menschen, Jazz-Fusion zu spielen. Er wurde immer beliebter, so dass immer mehr Menschen Jazz-Fusion hörten und zu Jazz-Fusion-Konzerten gingen. In den 1970er Jahren begannen Jazzmusiker wie Herbie Hancock, Joe Zawinul, Jan Hammer und Chick Corea, elektronische Synthesizer in ihren Liedern zu verwenden.
In den frühen 1980er Jahren wurde eine neue Art von Jazz-Fusion gespielt, die „Pop-Fusion“ genannt wurde. Dieser neue Stil des Pop-Fusion war weicher und langsamer als der Fusion-Stil der frühen 1970er Jahre. Pop-Fusion wurde viel häufiger im Radio gespielt als der Fusion-Stil der frühen 1970er Jahre. Zu den Pop-Fusion-Musikern gehören Lee Ritenour, Al Jarreau, Kenny G, Bob James und David Sanborn.
Steve Vai war in den 1980er Jahren eine Ikone des Jazz-Fusion und spielte umfangreiche gitarrenbasierte Jazz-Fusion-Instrumentalstücke.