一个能够实现一定功能的电路系统由多个模块构成， 如处理器、接口、存储器、模数转换器等等。 这些功能模块可以由分立的器件来实现，然后在印刷电路板（PCB）上组合起来， 最终形成板上系统（System-on-a-Board）。 板上系统的示意图如下所示：
在上图所示的板上系统中， 绿色的矩形代表印刷电路板（PCB），上面各种颜色的小矩形代表了系统中各个功能模块， 如存储器等。 这些模块的功能都由一个个独立的硅芯片分别实现的，它们之间通过 PCB 上的金属走线连接， 最终构成一个完整的系统。
而片上系统（System-on-Chip）指的是在单个硅芯片就可以实现整个系统的功能，其示意图如下所示：
如上图所示，片上系统 SoC 在一个芯片里就实现了存储、处理、逻辑和接口等各个功能模块， 而不是像板上系统那样，需要用几个不同的物理芯片来实现。与板上系统相比， SoC 的解决方案成本更低，能在不同的系统单元之间实现更快更安全的数据传输，具有更高的整体系统速度、更低的功耗、更小的物理尺寸和更好的可靠性