Mellow Mushroom abrió sus puertas en Atlanta, Georgia, en 1974, cuando dos estudiantes universitarios de Georgia Tech, a los que luego se unió un tercero de la Universidad de Georgia, fundaron un negocio que reflejaba sus excéntricas filosofías. El primer restaurante se abrió en la calle Spring de Atlanta. A finales de la década de 1980, un empleado abrió la primera franquicia, a la que siguieron las franquicias propiedad de clientes y, posteriormente, de amigos de empleados y clientes. Cada franquicia es de propiedad y operación local con su propia sensación única.
La primera franquicia que se ubicó fuera de Atlanta fue en Athens, Georgia, cerca de la Universidad de Georgia. Hay varias docenas de locales que funcionan en Atlanta y en otros lugares de Georgia. A partir del año 2000, la franquicia se expandió fuera de los mercados universitarios a zonas urbanas como Jacksonville, Florida y Denver, Colorado. Hasta la fecha, la cadena cuenta con más de 200 locales en 20 estados.
A mediados de marzo de 2020, todos los restaurantes habían abandonado las comidas a domicilio para combatir la pandemia de COVID-19. Los clientes todavía pueden hacer sus pedidos a través de un servicio de entrega, para llevar o para recoger.