Når Muhammed og de første konvertitter til islam blev tvunget til at forlade Mekka, blev samfundet budt velkommen i Medina af Ansar, en gruppe hedninge, der var konverteret til islam. På trods af at Medina allerede var besat af talrige jødiske og polyteistiske stammer, vakte Muhammed og hans tilhængere ingen modstand fra Medinas indbyggere ved deres ankomst. Ved ankomsten til Medina oprettede Muhammed Medina-forfatningen sammen med de forskellige stammeledere med henblik på at samle de mekkanske indvandrere og Medinas indbyggere i et enkelt samfund, ummah. I stedet for at begrænse medlemmerne af ummah til en enkelt stamme eller et enkelt religiøst tilhørsforhold, som det havde været tilfældet, da ummah først udviklede sig i Mekka, sikrede Medinas forfatning, at ummah bestod af en række forskellige mennesker og trosretninger, hvilket i bund og grund gjorde den til et overstammet samfund. Den islamiske historiker Tabari har antydet, at Muhammeds første intentioner ved ankomsten til Medina var at etablere en moské, men det er usandsynligt Tabari har også hævdet, at Muhammed observerede den første fredagsbøn i Medina. Den fandt sted om fredagen, fordi fredagen fungerede som markedsdag i Medina for at give jøderne mulighed for at overholde sabbaten. Medlemskab af ummah var ikke begrænset til at tilslutte sig den muslimske tro, men omfattede alle stammerne, så længe de svor at anerkende Muhammed som samfundets og den politiske autoritetsfigur. Forfatningen af Medina erklærede, at de jødiske stammer og muslimerne fra Medina udgjorde “én ummah”. Det er muligt, at den medinske ummah var rent verdslig (sammenlignet med den senere omdannelse af ummah i Mekka) på grund af sine medlemmers forskellige trosretninger og praksisser. Formålet med Medinas forfatning var at opretholde de politiske forpligtelser og de sociale relationer mellem de forskellige stammer. Selv om medlemmerne af samfundet i Medina ikke var af samme tro, var de forpligtet over for hinanden gennem et ønske om at forsvare samfundets fælles bedste. Med andre ord var samfundet forenet med henblik på at bevare sine fælles interesser. Folk med andre religiøse overbevisninger, især dem, der betragtes som “Bogens folk”, blev tildelt Guds særlige beskyttelse gennem dhimmah-kontrakten. Disse andre religiøse grupper blev garanteret sikkerhed af Gud og Muhammed på grund af deres fælles religiøse historie som værende “Bogens folk”. Dhimmah-aftalen fungerede som en slags alliance mellem muslimer og ikke-muslimer. I de tidligere dhimmah-traktater blev begge grupper betragtet som ligeværdige i status, og begge var forpligtede til at hjælpe den anden. I senere traktater, efter at islam havde fået mere magt i hele Arabien, blev dhimmah imidlertid opfattet som opfyldelse af muslimernes religiøse pligter sammen med betaling af zakat. Med den nye dhimmah-kontrakt blev ikke-muslimers beskyttelse af Gud og Muhammed afhængig af deres betaling.
Medina-forfatningRediger
Medina-forfatningen er et dokument, der blev oprettet af Muhammed for at regulere det sociale og politiske liv i Medina. Den omhandler forskellige stammespørgsmål som f.eks. organisering og ledelse af de deltagende stammegrupper, krigsførelse, blodpenge, løsepenge for fanger og krigsudgifter. Det er i begyndelsen af dokumentet, at muslimerne fra Quraysh (dem fra Mekka) og muslimerne fra Yathrib (dem fra Medina) erklæres for at være en ummah eller ét samfund. Ordet ummah optræder igen, når dokumentet henviser til traktaten om jøderne og fastslår, at Yahūd Banī ‘ Awf, eller jøderne, er en ummah, der eksisterer ved siden af muslimernes ummah eller kan indgå i den samme ummah som muslimerne. I dokumentet står der, at de jøder, der slutter sig til muslimerne, vil modtage støtte og lige rettigheder. Desuden vil jøderne blive garanteret sikkerhed fra muslimerne og får lov til at bevare deres egen religion, ligesom muslimerne vil bevare deres egen religion. Dette indebærer, at ummah ikke udelukkende er et religiøst fællesskab i Medina. Forfatningen for Medina opregner de forskellige medinske stammer, der stammer fra Aws og Khazraj, samt de forskellige jødiske stammer, som får lov til at beholde deres stammeorganisation og lederskab. Dokumentet afslører også, at hver gruppe, muslimerne og jøderne, er ansvarlige for deres egne finanser, undtagen i krigstid, hvor de to grupper kan dele udgifterne.