Während er mit Lewis und Clark den Louisiana Purchase erkundete, wurde er Ende Juli 1804 krank. Am 31. Juli schrieb Floyd in sein Tagebuch: „Ich bin sehr krank, und das schon seit einiger Zeit, aber ich habe meine Gesundheit wiedererlangt.“ Auf diese scheinbare Genesung folgte jedoch bald eine schwere Verschlechterung. William Clark beschrieb Floyds Tod als einen „mit großer Gelassenheit“ und dass Floyd vor seinem Tod zu Clark sagte: „Ich gehe weg. Bitte schreiben Sie mir einen Brief.“
Es wurde ein Begräbnis abgehalten und Floyd auf einer Klippe mit Blick auf den Missouri River beigesetzt. Die Expedition nannte den Ort ihm zu Ehren Floyd’s Bluff. Sie lagerten in dieser Nacht an der Mündung des Floyd River, „etwa 30 Yards breit, ein schöner Abend.“
Clark diagnostizierte den Zustand, der zu Floyds Ableben führte, als Gallenkolik, obwohl moderne Ärzte und Historiker glauben, dass Floyds Tod eher durch einen durchgebrochenen Blinddarm verursacht wurde. Die kurze „Genesung“, die Floyd beschrieb, könnte die vorübergehende Erleichterung durch den Durchbruch des Organs dargestellt haben, auf die eine tödliche Bauchfellentzündung gefolgt wäre. Wäre dies der Fall gewesen, wäre es ihm nicht besser ergangen, wenn er bei den besten Ärzten der damaligen Zeit gewesen wäre, da es zu dieser Zeit keine bekannte Heilmethode für Blinddarmentzündungen gab.