No final da década de 1930, São Francisco era um importante centro de desenvolvimento de rádio para o oeste dos Estados Unidos. Em 1939, a General Electric estabeleceu uma poderosa estação de ondas curtas em conjunto com a abertura da Exposição Internacional Golden Gate na Baía de São Francisco, na Ilha do Tesouro. Em agosto de 1940, a Radio Corporation of America (RCA) deu uma demonstração da então nova tecnologia de modulação de freqüência (FM) na convenção da National Association of Broadcasters (Associação Nacional de Emissoras de Rádio e Televisão) que estava sendo realizada na cidade.
Em maio de 1940, a Federal Communications Commission (FCC) anunciou que a partir de 1º de janeiro de 1941 estava estabelecendo uma banda de transmissão para estações FM, operando em 40 canais de 42-50 MHz, com os primeiros cinco canais reservados para estações educacionais. Nesse mesmo mês, o Distrito Escolar Unificado de São Francisco apresentou uma solicitação para a construção de uma nova estação FM educativa, operando em 42,1 MHz com 1.000 watts. A solicitação original da estação, apresentada em 24 de maio de 1940, especificava o uso de transmissores da General Electric, mas isso foi alterado em janeiro de 1941 para especificar um transmissor RCA FM-1-B.
KALW foi construído na Samuel Gompers Trades School e começou os testes de transmissão em 10 de março de 1941, tornando-se a primeira estação FM a operar na costa oeste dos EUA, e a segunda estação educacional dos EUA a começar a transmitir na banda FM. A estação entrou em serviço geral fornecendo programação instrucional em 1.
Em 1945 a FCC anunciou que, devido a preocupações com interferências, estava realocando as freqüências atuais da “banda baixa” FM para outros serviços e as estações existentes da banda FM seriam realocadas para 88-106 MHz (posteriormente expandidas para 108 MHz). Em julho de 1946 a FCC determinou que as estações FM atualmente operando em 42-44 MHz teriam que mudar para novas freqüências até o final do ano, e o KALW mudou sua freqüência de 42,1 para 44,3 MHz como um passo intermediário. A atribuição inicial da estação na nova banda FM era de 91,3 MHz, e uma reatribuição posterior no outono de 1947 a reatribuiu à sua freqüência atual de 91,7 MHz.
KALW foi fundamental para ajudar o KQED a assinar no ar em 1954 como uma das primeiras estações de televisão educativa não comercial do país, fornecendo treinamento técnico, espaço de estúdio e consultoria de engenharia ao pessoal fundador do KQED.
KALW forneceu simulcasts em língua chinesa dos noticiários da KGO-TV nos anos 70, antes dos noticiários locais em língua asiática serem estabelecidos. Durante os anos 70 e 80, o KALW também fez a cobertura ao vivo dos eventos esportivos SFUSD, a última cobertura ao vivo regular dos esportes do ensino médio em São Francisco.
Embora o transmissor original do KALW não tivesse sido usado desde a mudança para a banda FM moderna no final dos anos 40, ele ainda estava localizado na John O’Connell Technical High School até a demolição da escola em meados dos anos 90.
No final de outubro de 2006, o KALW sofreu um mau funcionamento da antena. A estação continuou a transmitir com apenas 3% da potência normal, fazendo com que muitos ouvintes pensassem que a estação tinha parado de transmitir, embora o fluxo de áudio ainda estivesse disponível através do website. A colega emissora pública KQED-FM permitiu ao KALW o uso de seu transmissor de reserva na Montanha San Bruno durante o processo de reparo. Em 2 de novembro de 2006, o gerente geral da estação, Matt Martin, publicou uma atualização no site da estação explicando o problema e expressando seu apreço ao KQED-FM por sua assistência técnica.