Wszystko to zmieniło się wraz z ogłoszeniem System/360 (S/360) w kwietniu, 1964 roku. System/360 był pojedynczą serią kompatybilnych modeli przeznaczonych zarówno do użytku komercyjnego jak i naukowego. Liczba „360” sugerowała „360-stopniowy” lub „wszechstronny” system komputerowy. System/360 zawierał funkcje, które wcześniej były obecne tylko w linii komercyjnej (takie jak arytmetyka dziesiętna i adresowanie bajtowe) lub inżynieryjnej i naukowej (takie jak arytmetyka zmiennoprzecinkowa). Niektóre z jednostek arytmetycznych i funkcji adresowania były opcjonalne w niektórych modelach Systemu/360. Jednakże wszystkie modele były kompatybilne w górę, a większość z nich była również kompatybilna w dół. System/360 był również pierwszym komputerem w powszechnym użyciu, który zawierał dedykowane rozwiązania sprzętowe do obsługi systemów operacyjnych. Wśród nich były programy i instrukcje trybu nadzorcy i trybu aplikacji, a także wbudowane funkcje ochrony pamięci. Sprzętowa ochrona pamięci zapewniała ochronę systemu operacyjnego przed programami (zadaniami) użytkownika, a zadań użytkownika przed sobą nawzajem. Nowa maszyna miała też większą przestrzeń adresową niż starsze mainframe’y, 24 bity adresujące 8-bitowe bajty wobec typowych 18 bitów adresujących 36-bitowe słowa.
Mniejsze modele z linii System/360 (np. 360/30) miały zastąpić serię 1400, zapewniając jednocześnie łatwiejszą ścieżkę modernizacji do większych 360-tek. Aby ułatwić przejście z drugiej generacji do nowej linii, IBM wykorzystał zdolność mikroprogramowania 360-tki do emulowania bardziej popularnych starszych modeli. Tak więc komputery 360/30 z tą dodatkową funkcją mogły uruchamiać 1401 programów, a większe 360/65 mogły uruchamiać 7094 programy. Aby uruchomić stare programy, 360-tka musiała zostać zatrzymana i ponownie uruchomiona w trybie emulacji. Wielu klientów nadal używało swojego starego oprogramowania, a jedną z cech późniejszego Systemu/370 była możliwość przełączania się w tryb emulacji i z powrotem pod kontrolą systemu operacyjnego.
Systemy operacyjne dla rodziny System/360 obejmowały OS/360 (z PCP, MFT i MVT), BOS/360, TOS/360 i DOS/360.
System/360 ewoluował później w System/370, System/390 i 64-bitowe maszyny zSeries, System z i zEnterprise. System/370 wprowadził możliwości pamięci wirtualnej we wszystkich modelach poza pierwszymi modelami System/370; wariant OS/VS1 systemu OS/360 MFT, wariant OS/VS2 (SVS) systemu OS/360 MVT oraz wariant DOS/VS systemu DOS/360 zostały wprowadzone w celu wykorzystania możliwości pamięci wirtualnej, a następnie MVS, który, w przeciwieństwie do wcześniejszych systemów operacyjnych z pamięcią wirtualną, uruchamiał oddzielne programy w oddzielnych przestrzeniach adresowych, zamiast uruchamiać wszystkie programy w jednej wirtualnej przestrzeni adresowej. Możliwości pamięci wirtualnej pozwoliły systemowi na obsługę maszyn wirtualnych; hiperwizor VM/370 uruchamiał jedną lub więcej maszyn wirtualnych, na których działały standardowe systemy operacyjne System/360 lub System/370 albo jednostanowiskowy Conversational Monitor System (CMS). W systemie VM z podziałem czasu można było uruchomić wiele maszyn wirtualnych, po jednej na każdego użytkownika, przy czym każda maszyna wirtualna uruchamiała instancję CMS.
.