Kaikki tämä muuttui, kun huhtikuussa 1964 julkistettiin System/360 (S/360). System/360 oli yksi sarja yhteensopivia malleja sekä kaupalliseen että tieteelliseen käyttöön. Numero ”360” viittasi ”360 asteen” eli ”kaiken kattavaan” tietokonejärjestelmään. System/360 sisälsi ominaisuuksia, joita oli aiemmin ollut vain joko kaupallisessa linjassa (kuten desimaaliaritmetiikka ja tavuadressointi) tai teknisessä ja tieteellisessä linjassa (kuten liukulukuaritmetiikka). Jotkin aritmeettiset yksiköt ja osoitinominaisuudet olivat valinnaisia joissakin System/360-malleissa. Mallit olivat kuitenkin ylöspäin yhteensopivia ja useimmat myös alaspäin yhteensopivia. System/360 oli myös ensimmäinen laajalti käytössä ollut tietokone, joka sisälsi erityisiä laitteistovarauksia käyttöjärjestelmien käyttöä varten. Näihin kuuluivat valvonta- ja sovellustilaohjelmat ja -ohjeet sekä sisäänrakennetut muistin suojausominaisuudet. Laitteistomuistisuojauksen tarkoituksena oli suojata käyttöjärjestelmä käyttäjäohjelmilta (tehtäviltä) ja käyttäjätehtävät toisiltaan. Uudessa koneessa oli myös suurempi osoiteavaruus kuin vanhemmissa suurkoneissa: 24 bittiä osoitti 8-bittisiä tavuja verrattuna tyypilliseen 18 bittiin, joka osoitti 36-bittisiä sanoja.
System/360-malliston pienemmät mallit (esim. 360/30) oli tarkoitettu korvaamaan 1400-sarja ja tarjoamaan samalla helpompi päivityspolku suurempiin 360-malleihin. Tasoittaakseen siirtymistä toisesta sukupolvesta uuteen linjaan IBM käytti 360:n mikroohjelmointikykyä emuloimaan suositumpia vanhempia malleja. Niinpä 360/30-malleissa, joissa oli tämä lisäkustannusominaisuus, voitiin ajaa 1401-ohjelmia ja suuremmissa 360/65-malleissa 7094-ohjelmia. Vanhojen ohjelmien suorittamiseksi 360 oli pysäytettävä ja käynnistettävä uudelleen emulointitilassa. Monet asiakkaat käyttivät edelleen vanhoja ohjelmiaan, ja yksi myöhemmän System/370:n ominaisuuksista oli mahdollisuus siirtyä emulointitilaan ja takaisin käyttöjärjestelmän valvonnassa.
System/360-tuoteperheen käyttöjärjestelmiin kuuluivat OS/360 (PCP:llä, MFT:llä ja MVT:llä), BOS/360, TOS/360 ja DOS/360.
System/360:stä kehitettiin myöhemmin System/370, System/390 ja 64-bittiset zSeries-, System z- ja zEnterprise-koneet. System/370 otti käyttöön virtuaalimuistiominaisuudet kaikissa muissa malleissa kuin aivan ensimmäisissä System/370-malleissa; OS/360 MFT:n OS/VS1-variantti, OS/360 MVT:n OS/VS2 (SVS) -variantti ja DOS/360:n DOS/VS-variantti otettiin käyttöön virtuaalimuistiominaisuuksien käyttämiseksi, ja sen jälkeen tuli MVS, joka aiemmista virtuaalimuistikäyttöjärjestelmistä poiketen ajoi erillisiä ohjelmia erillisissä osoiteavaruuksissa sen sijaan, että se olisi pyörittänyt kaikkia ohjelmia yhdessä ainoassa virtuaaliosoiteavaruusssa. Virtuaalimuistiominaisuuksien ansiosta järjestelmä pystyi myös tukemaan virtuaalikoneita; VM/370-hypervisor pyöritti yhtä tai useampaa virtuaalikonetta, jotka pyörittivät joko tavallisia System/360- tai System/370-käyttöjärjestelmiä tai yhden käyttäjän Conversational Monitor Systemiä (CMS). Ajan jakava VM-järjestelmä voisi käyttää useita virtuaalikoneita, yhden käyttäjää kohti, ja kussakin virtuaalikoneessa voisi olla CMS-käyttöjärjestelmä.