Mellow Mushroom abriu em Atlanta, Geórgia, em 1974, quando dois estudantes universitários da Georgia Tech, aos quais se juntou mais tarde um terceiro da University of Georgia, fundaram um negócio que reflectia as suas filosofias excêntricas. O primeiro restaurante foi inaugurado na Spring Street, em Atlanta. No final da década de 1980, a primeira franquia foi aberta por um funcionário, seguida por franquias de propriedade dos clientes, e depois para amigos de funcionários e clientes. Cada franquia é de propriedade local e operada com sua própria sensação única.
A primeira franquia a ser localizada fora de Atlanta foi em Atenas, Geórgia, perto da Universidade da Geórgia. Existem várias dúzias de localizações operando em Atlanta e em outros lugares da Geórgia. Começando em 2000, a franquia expandiu fora dos mercados universitários para áreas urbanas como Jacksonville, Flórida e Denver, Colorado. Até hoje, a rede tem mais de 200 localizações em 20 estados.
Em meados de março de 2020, todos os restaurantes haviam abandonado a sala de jantar para combater a pandemia da COVID-19. Os clientes ainda podem fazer seus pedidos via entrega, take-away ou serviço de pick-up.