Yang-Mills teori, inom fysiken, en generalisering av den skotske fysikern James Clerk Maxwells enhetliga teori om elektromagnetism, även känd som Maxwells ekvationer, som används för att beskriva den svaga kraften och den starka kraften i subatomära partiklar i termer av en geometrisk struktur, eller kvantfältteori. Yang-Mills-teorin bygger på en kvantmekanisk egenskap som kallas ”massgapet”. Teorin introducerades 1954 av den kinesiskfödda amerikanska fysikern Chen Ning Yang och den amerikanska fysikern Robert L. Mills, som först utvecklade en gauge-teori med hjälp av Lie-grupper (se matematik: Matematisk fysik och teorin om Lie-grupper) för att beskriva subatomära interaktioner. Yang-Mills teorins nuvarande tillstånd har jämförts med kalkylens tidiga dagar, då man utan tvekan fick exakta och användbara resultat, men innan den formella utvecklingen av analysen lade till rigorösa definitioner som eliminerade logiska felsteg. För Yang-Mills teorin är en av de viktigaste frågorna att matematiskt förklara massgapet, eller massan som inte är noll, i kvanttillämpningar av formlerna. Bevis för massgapet har påvisats i fysiska experiment och datorbaserade matematiska modeller, och man tror att det är orsaken till att den starka kraften endast verkar på mycket små avstånd (inom atomkärnor).
År 2000 utsågs Yang-Mills-teorin till ett millennieproblem, ett av sju matematiska problem som valts ut av Clay Mathematics Institute i Cambridge, Massachusetts, USA, för ett särskilt pris. Lösningen till varje millennieproblem är värd 1 miljon dollar.