Caol Ila pochodzi od gaelickiego Caol Ìle dla „Sound of Islay” (lit. „Islay Strait”) w odniesieniu do lokalizacji destylarni z widokiem na cieśninę między Islay i Jura. Założył ją w 1846 roku Hector Henderson. Gorzelnia nie radziła sobie najlepiej i w 1854 roku zmieniła właściciela, gdy przejął ją Norman Buchanan, właściciel Isle of Jura Distillery. W 1863 roku firma została przejęta przez Bulloch Lade & Co, z Glasgow, handlowców w zapasach whisky. Według spisu ludności z 1871 roku Duncan Johnston był w tym czasie kierownikiem destylarni. Duncan był bratankiem Johna Johnstona z Lagavulin i kuzynem Johnstonów z Laphroaig, a więc rodzina była zaangażowana w jeszcze jedną destylarnię na wyspie. Do lat 80. XIX wieku produkowano tam ponad 147 000 imperialnych galonów (670 000 L) whisky rocznie. W 1927 r. Distillers Company nabyła pakiet kontrolny w Caol Ila, a w 1930 r. Scottish Malt Distillers Ltd uzyskała własność wszystkich udziałów. Destylarnię zamknięto w czasie II wojny światowej, w latach 1942-1945, z powodu ograniczeń wojennych dotyczących dostaw jęczmienia dla gorzelników. Od tego czasu produkcja była kontynuowana do 1972 roku, kiedy to cała konstrukcja destylarni została rozebrana. Następnie wybudowano większą destylarnię, zaprojektowaną przez George’a Leslie Darge’a w tym samym stylu architektonicznym, co wiele innych destylarni, z charakterystycznymi dla niego przeszklonymi ścianami kurtynowymi w pomieszczeniach destylarni, a produkcja została wznowiona w 1974 roku. Firma ostatecznie stała się częścią Diageo.
.