Caol Ila est dérivé du gaélique Caol Ìle pour « Sound of Islay » (littéralement « détroit d’Islay ») en référence à l’emplacement de la distillerie qui surplombe le détroit entre Islay et Jura. Elle fut fondée en 1846 par Hector Henderson. La distillerie ne se porte pas bien et change de mains en 1854 lorsque Norman Buchanan, propriétaire de la distillerie Isle of Jura, la reprend. En 1863, l’entreprise est rachetée par Bulloch Lade & Co, de Glasgow, négociant en stocks de whisky. Selon le recensement de 1871, Duncan Johnston était le directeur de la distillerie à cette époque. Duncan était le neveu de John Johnston de Lagavulin et le cousin des Johnston de Laphroaig, et la famille était donc impliquée dans une autre distillerie sur l’île.Dans les années 1880, plus de 147 000 gallons impériaux (670 000 L) de whisky y étaient produits chaque année.
En 1920, Bulloch Lade a été mis en liquidation volontaire, et un consortium d’hommes d’affaires a formé la Caol Ila Distillery Company Ltd. En 1927, la Distillers Company acquiert une participation majoritaire dans Caol Ila, et en 1930, Scottish Malt Distillers Ltd obtient la propriété de toutes les actions. La distillerie a été fermée pendant la Seconde Guerre mondiale, de 1942 à 1945, en raison des restrictions imposées par la guerre à l’approvisionnement en orge des distillateurs. Dès lors, la production s’est poursuivie jusqu’en 1972, date à laquelle la structure entière de la distillerie a été démolie. Une distillerie plus grande fut alors construite, conçue par George Leslie Darge dans le même style architectural que beaucoup de ses autres projets, avec ses murs-rideaux vitrés caractéristiques pour les alambics, et la production reprit en 1974. La société a fini par faire partie de Diageo.