简单地说，VOIP是藉由一连串的转码、编码、压缩、打包等程序，好让该语音数据可以在IP网络上传输到目的端，然后再经由相反的程序，还原成原来的语音讯号以供接听者接收。
在一个基本的VoIP架构之中，大致包含4个基本元素：
(1)媒体网关器（Media Gateway）：主要扮演将语音讯号转换成为IP封包的角色。
(2)媒体网关控制器（Media Gateway Controller）：又称为Gate Keeper或Call Server。主要负责管理讯号传输与转换的工作。
(3)语音服务器：主要提供电话不通、占线或忙线时的语音响应服务。
