Die Ursprünge der Voice over IP Technologie sind bereits im ARPANET zu suchen. Die Abkürzung steht für Advanced Research Projects Agency Network. Ursprünglich wurde dieses Datennetz zu militärischen Zwecken entwickelt und später, wie so viele andere Dinge, auch parallel der zivilen

Nutzung zugeführt. Zielstellung war die Entwicklung einer Plattform zum Datenaustausch zwischen den internen Netzen verschiedener Universitäten. Darauf basierend führte man 1973 die erste erfolgreiche Übertragung von Sprache durch. Das damals übliche Network Voice Protocol wurde inzwischen durch das wesentlich effektivere Session Initiation Protocol abgelöst, weil es eine wesentlich größere Flexibilität bei der Herstellung und Beendigung von Verbindungen bereitstellt. 1977 wird in der Empfehlung RFC 741 das Network Voice Protocol einer ersten Standardisierung zugeführt.

Schon kurze Zeit später bindet die Internationale Fernmeldeunion das modernere Internet Protokoll in ihre weltweit verwendeten Empfehlungen unter dem Kürzel RFC 791 mit ein. Doch es sollte noch fast zehn Jahre dauern, ehe die erste Kommunikationsverbindung vermarktet werden konnte, die mit einem größeren Kanalspektrum arbeiten konnte. Erst 1989 gingen die schnelleren ISDN Verbindungen an den Start, die in der Lage waren, 64 Kilobits pro Sekunde übertragen zu können. Zeitgleich beginnen die ersten praktischen Vorbereitungen für die Installation des World Wide Webs, aus dem sich später das noch heute übliche Internet entwickeln sollte.

1992 erfolgte ein wichtiger Schritt bei der weiteren Verbreitung von Voice over IP. Der GSM basierende Mobilfunk wird eingeführt und unter der Bezeichnung D- Netz auf den Markt gebracht. Der nächste wichtige Schritt auf dem Weg zur heutigen Internettelefonie erfolgte 1995. Eine israelische Firma bringt eine Software auf den Markt, die unter dem Betriebssystem Windows die Telefonie über das Internet möglich macht. Die Nachteile liegen nicht nur in der Qualität der wiedergegebenen Sprache, sondern auch im Halbduplexverfahren, das die Daten immer nur einseitig übertragen kann, und darin, dass beide Gesprächsteilnehmer die gleiche Software installiert haben müssen. Das ist bei den modernen, durchweg standardisierten Codecs und Übertragungsprotokollen nicht mehr der Fall. Schon ein Jahr später wird dieses Manko durch das Real Time Transport Protocol, das in der Empfehlung RFC 1889 der Internationalen Fernmeldeunion standardisiert wird, eingeführt. Es ermöglicht nun auch den Vollduplexbetrieb, bei dem bei Voice over IP beide Teilnehmer gleichzeitig senden und empfangen können.

Kurz vor der Jahrtausendwende wird der Standard H.323 entwickelt, in das zahlreiche vorhergehende Standards mit eingebaut werden, wie beispielsweise H.450, der vollständig auf die Bedürfnisse der Telefonie ausgerichtet ist. Kurz darauf laufen die ersten erfolgreichen Tests mit SIP, dem sitzungsinitiierten Protokoll, das in erweiterter Form noch heute für Voice over IP verwendet wird. 2004 wird der Grundstein für die Messangerdienste gelegt, die heute durchgängig in allen Betriebssystemen verfügbar sind. Damit wird für Privatpersonen und Unternehmen gleichzeitig der Startschuss gegeben, bei der verbalen Kommunikation über das Internet bei den Kosten sparen zu können. Fast zeitgleich bringen die ersten Provider Flatrates auf den Markt, bei denen man als Kunde nur eine Pauschale für den Internetzugang zahlen muss und über den nun auch eine komfortable Echtzeittelefonie möglich ist.