A finales de la década de 1930, San Francisco era un importante centro de desarrollo de la radio para el oeste de Estados Unidos. En 1939, General Electric estableció una potente estación de onda corta junto con la inauguración de la Exposición Internacional del Golden Gate en la Bahía de San Francisco, en Treasure Island. En agosto de 1940, la Radio Corporation of America (RCA) hizo una demostración de la entonces nueva tecnología de radiodifusión por modulación de frecuencia (FM) en la convención de la Asociación Nacional de Radiodifusores que se celebraba en la ciudad.
En mayo de 1940, la Comisión Federal de Comunicaciones (FCC) anunció que, a partir del 1 de enero de 1941, establecía una banda de transmisión para las emisoras de FM, que operaba en 40 canales que abarcaban de 42 a 50 MHz, con los primeros cinco canales reservados para las emisoras educativas. Ese mismo mes, el Distrito Escolar Unificado de San Francisco presentó una solicitud para construir una nueva emisora de FM educativa, que operaría en 42,1 MHz con 1.000 vatios. La solicitud original de la estación, presentada el 24 de mayo de 1940, especificaba el uso de transmisores General Electric, pero esto se cambió en enero de 1941 para especificar un transmisor RCA FM-1-B.
KALW se construyó en la Escuela de Oficios Samuel Gompers y comenzó las transmisiones de prueba el 10 de marzo de 1941, convirtiéndose en la primera estación de FM en operar en la costa oeste de Estados Unidos, y la segunda estación educativa de Estados Unidos en comenzar a transmitir en la banda de FM. La estación entró en servicio general proporcionando programación instructiva el 1 de septiembre.
En 1945 la FCC anunció que, debido a las preocupaciones de interferencia, estaba reasignando las actuales frecuencias de la «banda baja» de FM a otros servicios y las estaciones de la banda de FM existentes serían reubicadas a 88-106 MHz (más tarde ampliadas a 108 MHz). En julio de 1946, la FCC ordenó que las emisoras de FM que actualmente operaban en 42-44 MHz tuvieran que trasladarse a nuevas frecuencias para finales de año, y KALW cambió su frecuencia de 42,1 a 44,3 MHz como medida provisional. La asignación inicial de la estación en la nueva banda de FM fue de 91,3 MHz, y una reasignación posterior en el otoño de 1947 la reasignó a su frecuencia actual de 91,7 MHz.
KALW fue fundamental para ayudar a la televisión KQED a salir al aire en 1954 como una de las primeras estaciones de televisión educativa no comercial en el país, proporcionando capacitación técnica, espacio de estudio y asesoramiento de ingeniería al personal fundador de KQED.
KALW proporcionó transmisiones simuladas en idioma chino de los noticieros de KGO-TV en la década de 1970, antes de que se establecieran los noticieros locales en idioma asiático. Durante las décadas de 1970 y 1980, KALW también transmitió en vivo los eventos deportivos del SFUSD, la última cobertura regular en vivo de los deportes de la escuela secundaria en la radiodifusión de San Francisco.
Aunque el transmisor original de KALW no se había utilizado desde el cambio a la banda moderna de FM a finales de la década de 1940, todavía estaba ubicado en la Escuela Secundaria Técnica John O’Connell hasta que la escuela fue demolida a mediados de la década de 1990.
A finales de octubre de 2006, KALW sufrió un mal funcionamiento de la antena. La emisora siguió transmitiendo con sólo el tres por ciento de la potencia normal, lo que hizo que muchos oyentes pensaran que la emisora había dejado de emitir, aunque el flujo de audio seguía estando disponible a través del sitio web. La emisora pública KQED-FM permitió a KALW el uso de su transmisor de reserva en San Bruno Mountain durante el proceso de reparación. El 2 de noviembre de 2006, el director general de la emisora, Matt Martin, publicó una actualización en el sitio web de la emisora explicando el problema y expresando su agradecimiento a KQED-FM por su asistencia técnica.