Yang-Mills teori, i fysik, en generalisering af den skotske fysiker James Clerk Maxwells forenede teori om elektromagnetisme, også kendt som Maxwells ligninger, der bruges til at beskrive den svage kraft og den stærke kraft i subatomare partikler i form af en geometrisk struktur, eller kvantefeltteori. Yang-Mills-teorien er baseret på en kvantemekanisk egenskab kaldet “massegabet”. Teorien blev introduceret i 1954 af den kinesiskfødte amerikanske fysiker Chen Ning Yang og den amerikanske fysiker Robert L. Mills, som først udviklede en gaugeteori ved hjælp af Lie-grupper (se matematik: Matematisk fysik og teorien om Lie-grupper) til at beskrive subatomare vekselvirkninger. Yang-Mills teoriens nuværende tilstand er blevet sammenlignet med de tidlige dage af kalkulen, hvor man opnåede ubestrideligt præcise og nyttige resultater, men før den formelle udvikling af analysen tilføjede strenge definitioner, der eliminerede logiske fejlslutninger. For Yang-Mills-teorien er et af de vigtigste spørgsmål at forklare massegabet, dvs. den masse, der ikke er nul, matematisk i kvanteapplikationer af formlerne. Bevis for massegabet er blevet påvist i fysiske eksperimenter og computerbaserede matematiske modeller, og man mener, at det er grunden til, at den stærke kraft kun virker på meget små afstande (inden for atomkerner).
I 2000 blev Yang-Mills teorien udpeget som et millenniumproblem, et af syv matematiske problemer, der blev udvalgt af Clay Mathematics Institute i Cambridge, Mass. i USA, til en særlig pris. Løsningen på hvert millenniumproblem er 1 million dollars værd.