Under utforskningen av Louisianaköpet tillsammans med Lewis och Clark blev han sjuk i slutet av juli 1804. Den 31 juli skrev Floyd i sin dagbok: ”Jag är mycket sjuk och har varit det ett tag men har återfått min hälsa igen”. Detta uppenbara tillfrisknande följdes dock snart av en allvarlig vändning till det sämre. William Clark beskrev Floyds död som en död ”med stort lugn” och att Floyd innan han dog sa till Clark: ”Jag går iväg. Skriv ett brev till mig.”
En begravning hölls och Floyd begravdes på en klippa med utsikt över Missourifloden. Expeditionen gav platsen namnet Floyd’s Bluff till hans ära. De slog läger den natten vid Floydflodens mynning, ”ungefär 30 meter bred, en vacker kväll.”
Clark diagnostiserade det tillstånd som ledde till Floyds död som gallkolik, även om moderna läkare och historiker anser att Floyds död troligen snarare orsakades av en brusten blindtarm. Det korta ”tillfrisknande” som Floyd beskrev kan ha representerat den tillfälliga lindring som organets bristning gav, vilket skulle ha följts av en dödlig bukhinneinflammation. Om så var fallet, eftersom det inte fanns något känt botemedel mot blindtarmsinflammation vid den tiden, skulle han inte ha fått det bättre om han hade varit hos de bästa läkarna på den tiden.