自1946年电子计算机问世以来的很长一段时间里，计算机不只十分庞大，并且极其高贵，只要少少数的公司才买得起。那时，人们上机既费时，又吃力，很不便利。为了克制那种困难，人们就想到能不克不及把计算标题问题要用的数据和法式操纵德律风线路送到计算机上，而计算成果再通过德律风线路送回来。
最早实现那个设法的是美国军事部分。1950年，美国在其北部和加拿大境内成立了一个空中防空系统，简称赛其(SAGE)系统Q它是人类汗青上第一次将计 算机与通信设备连系起来，是计算机收集的雏形。赛其系统还不克不及算是实正的计算机收集，因为由通信线路所毗连的，一端是计算机，另一端只是个数据输入输出设备，或称末端设备。
人们将那种系统称为联机末端系统，简称联机系统。联机系统很快就得到了推广应用。根据那种体例，人们只要将一个末端通过通信线路与计算机联起来，就能够在远地通过末端操纵计算机，仿佛人就在机房里面一样。除了在科学计算上的应用外，联机系统在贸易上也得到 了大量的应用，如用于航空公司的主动订票系统。
航空公司在各售票点的窗口都拆一台末端，通过通信线路连到总部的大型计算机上。如许，总部的计算机随时可晓得每个航班已经出售了几票，各末端上的售票员也随时可晓得哪些航班还有余票，大大进步了工做效率和办事量量。在开展联机系统的同时，人们也在摸索能不克不及将计算机通过通信线路毗连起来，使得一些计算机上的用户可以操纵其他计算机强大的计算才能、高贵的外部设备和丰硕的信息 资本。
20世纪60年代，美国国防部高级研究方案局帮助计算机收集的研究，于1969年12月成立了只要四台主计算机的 ARPA收集。那是世界上第一个计算机收集，它就是今天因特网的前身。ARPA网的胜利引发了计算机收集研究的热潮，那 些研究为计算机收集的开展奠基了理论根底。
随后，以国际商用机器公司（IBM)和数字设备公司 (DEC)为代表的各大计算机厂商几乎都推出了本身的收集产物，但是计算机收集的普及是微型计算机（俗称小我计算机) 呈现以后的事了。