Voice over IP telah diimplementasikan dalam berbagai macam jalan menggunakan hak milik dan standar serta protokol terbuka. Contoh protokol jaringan yang digunakan untuk mengimplementasikan VoIP meliputi:
Protokol H.323 adalah salah satu dari Protokol VoIP yang penerapannya ditemukan secara luas untuk lalulintas jarak jauh, seperti layanan Jaringan Area Lokal (LAN). Namun, karena perkembangan baru, protokol yang lebih kompleks seperti MGCP dan SIP, H.323 penyebaran semakin terbatas untuk membawa jarak jauh yang ada lalu lintas jaringan. Secara khusus, Session Initiation Protocol (SIP) telah mendapatkan penetrasi pasar luas VoIP.
Sebuah implementasi milik penting adalah protokol Skype, yang sebagian didasarkan pada prinsip-prinsip peer-to-peer (P2P) jaringan.
Pada jaringan suara konvesional pesawat telepon langsung terhubung dengan PABX (Privat Automated Branch exchange) atau jika milik TELKOM terhubung langsung dengan STO (Sentral telepon Otomat) terdekat. Dalam STO ini ada daftar nomor-nomor telepon yang disusun secara bertingkat sesuai dengan daerah cakupannya. Jika dari pesawat telepon tersebut mau menghubungi rekan yang lain maka tuts pesawat telepon yang ditekan akan menginformasikan lokasi yang dituju melalui nada-nada DTMF, kemudian jaringan akan secara otomatis menghubungkan kedua titik tersebut.
Bentuk paling sederhana dalam sistem VoIP adalah dua buah komputer terhubung dengan internet. Syarat-syarat dasar untuk mengadakan koneksi VoIP adalah komputer yang terhubung ke internet, mempunyai kartu suara yang dihubungkan dengan speaker dan mikropon. Dengan dukungan perangkat lunak khusus, kedua pemakai komputer bisa saling terhubung dalam koneksi VoIP satu sama lain.
Bentuk hubungan tersebut bisa dalam bentuk pertukaran file, suara, gambar. Penekanan utama untuk dalam VoIP adalah hubungan keduanya dalam bentuk suara. Jika kedua lokasi terhubung dengan jarak yang cukup jauh (antar kota, antar negara) maka bisa dilihat keuntungan dari segi biaya. Kedua pihak hanya cukup membayar biaya pulsa internet saja, yang biasanya akan lebih murah daripada biaya pulsa telepon sambungan langsung jarak jauh (SLJJ) atau internasional (SLI).
Pada perkembangannya, sistem koneksi VoIP mengalami evolusi. Bentuk peralatan pun berkembang, tidak hanya berbentuk komputer yang saling berhubungan, tetapi peralatan lain seperti pesawat telepon biasa terhubung dengan jaringan VoIP. Jaringan data digital dengan gateway untuk VoIP memungkinkan berhubungan dengan PABX atau jaringan analog telepon biasa. Komunikasi antara komputer dengan pesawat (extension) di kantor adalah memungkinkan. Bentuk komunikasi bukan Cuma suara saja. Bisa berbentuk tulisan (chating) atau jika jaringannya cukup besar bisa dipakai untuk Video Conference. Dalam bentuk yang lebih lanjut komunikasi ini lebih dikenal dengan IP Telephony yang merupakan komunikasi bentuk multimedia sebagai kelanjutan bentuk komunkasi suara (VoIP). Keluwesan dari VoIP dalam bentuk jaringan, peralatan dan media komunikasinya membuat VoIP menjadi cepat popular di masyarakat umum.
Khusus untuk VoIP bentuk primitif dari jaringan adalah PC ke PC. Dengan memakai PC yang ada soundcardnya dan terhubung dengan jaringan maka sudah bisa dilakukan kegiatan VoIP . Perkembangan berikutnya adalah pengabungan jaringan PABX dengan jaringan VoIP. Disini dibutuhkan VoIP gateway. Gambarannya adalah lawan bicara menggunakan komputer untuk menghubungi sebuah office yang mempunyai VoIP gateway dan untuk port yang digunakan dalam jaringan VoIP adalah (5060-5061). Pengembangan lebih jauh dari konfigurasi ini berbentuk penggabungan PABX antara dua lokasi dengan menggunakan jaringan VoIP. Tidak terlalu dipedulikan bentuk jaringan selama memakai protocol TCP/IP maka kedua lokasi bisa saling berhubungan. Yang paling komplek adalah bentuk jaringan yang menggunakan semua kemungkinan yang ada dengan berbagai macam bentuk jaringan yang tersedia. Dibutuhkan sedikit tambahan keahlian untuk bentuk jaringan yang komplek seperti itu.
Pada awalnya bentuk jaringan adalah tertutup antar lokasi untuk penggunaan sendiri (Interm, Privat). Bentuk jaringan VoIP kemudian berkembang lebih komplek. Untuk penggunaan antar cabang pada komunikasi internal, VoIP digunakan sebagai penyambung antar PABX. Perkembangan selanjutnya adalah gabungan PABX tersebut tidak lagi menggunakan jaringan tertutup tetapi telah memakai internet sebagai bentuk komunikasi antara kantor tersebut. Tingkat lebih lanjut adalah penggabungan antar jaringan. Dengan segala perkembangannya maka saat ini telah dibuat tingkatan (hirarky) dari jaringan Voip.
Skype menggunakan protokol HTTP untuk berkomunikasi dengan Skype server untuk otentikasi username/password dan registrasi dengan Skype directory server. Versi modifikasi dari protokol HTTP digunakan untuk berkomunikasi dengan sesama Skype client. Keuntungan yang dimiliki aplikasi ini adalah tersedianya layanan keamanan dalam pentransmisian data yang berupa suara. Layanan keamanan yang diberikan adalah sebagai berikut :
Komunitas pengguna / pengembang VoIP di masyarakat, berkembang pada tahun 2000. Komunitas awal pengguna / pengembang VoIP adalah “VoIP Merdeka”.”VoIP Merdeka” (VM) dicetuskan oleh Onno W. Purbo. Teknologi yang digunakan oleh “VoIP Merdeka” (VM) adalah H.323 yang merupakan teknologi awal VoIP. Sentral VoIP Merdeka di hosting di Indonesia Internet Exchange (IIX) atas dukungan beberapa ISP dan Asossiasi Penyelenggara Jaringan Internet (APJII). Kode area “VoIP Merdeka” pada saat itu secara aklamasi di tentukan menjadi 6288, tentunya tanpa memperoleh restu dari pemerintah.
Pada tahun 2005, Anton Raharja dkk dari ICT Center Jakarta mulai mengembangkan VoIP jenis baru berbasis Session Initiation Protocol (SIP). Teknologi SIP merupakan teknologi pengganti H.323 yang sulit menembus proxy server. Pada tahun 2006, infrastruktur VoIP SIP di kenal sebagai VoIP Rakyat.
Kualitas suara VoIP dipengaruhi oleh beberapa parameter yaitu kapasitas bandwidth, tingkat hilang paket dan waktu tunda yang terjadi di dalam jaringan. Kapasitas bandwidth adalah ketersediaan sumber daya jaringan dalam bentuk lebar pita yang digunakan untuk mentransmisikan data paket. Tingkat hilang paket adalah parameter yang menyatakan besarnya laju kesalahan yang terjadi sepanjang jalur pengiriman data paket dari pengirim ke penerima. Waktu tunda adalah parameter yang menyatakan rentang waktu yang diperlukan untuk mengirimkan paket dari pengirim ke penerima