In de late jaren dertig was San Francisco een belangrijk centrum voor de ontwikkeling van de radio in het westen van de Verenigde Staten. In 1939 richtte General Electric een krachtig kortegolfstation op in verband met de opening van de Golden Gate International Exposition aan de Baai van San Francisco bij Treasure Island. In augustus 1940 gaf de Radio Corporation of America (RCA) een demonstratie van de toen nieuwe technologie van frequentie modulatie (FM) uitzendingen op de National Association of Broadcasters conventie die in de stad werd gehouden.
In mei 1940 kondigde de Federal Communications Commission (FCC) aan dat zij met ingang van 1 januari 1941 een uitzendband voor FM stations zou instellen, werkend op 40 kanalen van 42-50 MHz, waarbij de eerste vijf kanalen gereserveerd waren voor educatieve stations. Diezelfde maand diende het San Francisco Unified School District een aanvraag in voor de bouw van een nieuw educatief FM-station dat zou gaan opereren op 42,1 MHz met 1000 watt. De oorspronkelijke aanvraag, ingediend op 24 mei 1940, specificeerde het gebruik van General Electric zenders, maar dit werd veranderd in januari 1941 om een RCA FM-1-B zender te specificeren.
KALW werd gebouwd op de Samuel Gompers Trades School en begon met testuitzendingen op 10 maart 1941, waarmee het het eerste FM-station werd aan de Amerikaanse westkust, en het tweede Amerikaanse educatieve station dat begon uit te zenden op de FM-band. Het station kwam op 1 september in algemene dienst met een instructieve programmering.
In 1945 kondigde de FCC aan dat zij, vanwege interferentieproblemen, de huidige FM “lage band” frequenties opnieuw zou toewijzen aan andere diensten en bestaande FM-band stations zouden worden verplaatst naar 88-106 MHz (later uitgebreid tot 108 MHz). In juli 1946 gaf de FCC opdracht aan FM-stations die momenteel op 42-44 MHz werkten om voor het eind van het jaar naar nieuwe frequenties te verhuizen, en KALW veranderde zijn frequentie van 42,1 naar 44,3 MHz als een tussenstap. De aanvankelijke toewijzing van het station op de nieuwe FM-band was 91,3 MHz, en een daaropvolgende herverdeling in de herfst van 1947 wees het station opnieuw toe aan zijn huidige frequentie van 91,7 MHz.
KALW speelde een belangrijke rol bij het in de lucht brengen van KQED televisie in 1954 als een van de eerste niet-commerciële educatieve televisiestations in het land, door het geven van technische training, studioruimte en technisch advies aan de oprichters van KQED.
KALW verzorgde Chinese simulcasts van KGO-TV nieuwsuitzendingen in de jaren 1970, voordat lokale Aziatische taal nieuwsuitzendingen werden opgericht. Tijdens de jaren 1970 en 1980 zond KALW ook live-verslaggeving van SFUSD sportevenementen uit, de laatste dergelijke regelmatige live-verslaggeving van middelbare schoolsport in de omroep van San Francisco.
Hoewel de oorspronkelijke zender van KALW niet meer was gebruikt sinds de overschakeling naar de moderne FM-band in de late jaren 1940, was deze nog steeds gevestigd in de John O’Connell Technical High School totdat de school in het midden van de jaren 1990 werd gesloopt.
Eind oktober 2006 kreeg KALW te maken met een antennestoring. Het station bleef uitzenden met slechts drie procent van het normale vermogen, waardoor veel luisteraars dachten dat het station was gestopt met uitzenden, hoewel de audiostream nog steeds beschikbaar was via de website. KQED-FM, een andere publieke omroep, gaf KALW toestemming om hun reservezender op San Bruno Mountain te gebruiken tijdens het reparatieproces. Op 2 november 2006 plaatste Matt Martin, algemeen directeur van het station, een update op de website van het station waarin hij het probleem uitlegde en zijn waardering uitsprak voor KQED-FM voor hun technische hulp.