Izgradnja prvih pruga u našoj zemlji započeta je još polovinom prošlog veka kada su velikim delom naših teritorija vladale Austrougarska monarhija i Otomanska imperija. Borba srpskog naroda za slobodu, posle viševekovnog ropstva, krunisana je tokom XIX veka stvaranjem dve države, Srbije i Crne Gore. Posle Berlinskog kongresa ove dve nezavisne države započele su svoj život unutar novih granica. Razvoj železničkog saobraćaja na ovim prostorima doživeo je ekspanziju krajem XIX i početkom XX veka, odvijajući se na teritoriji tadašnjih država: Srbije, Crne Gore, Austrougarske i Turske.
Godina 1854. bitna je za istoriju Jugoslovenskih železnica. Naime, 20. avgusta 1854. godine puštena je u saobraćaj pruga Lisava–Oravica–Bazijaš s konjskom, a novembra 1856. godine i s parnom vučom. Posle Prvog svetskog rata na našoj teritoriji ostao je deo ove pruge u dužini od 27 km, od državne granice kod Jama, preko Jasenova i Bele Crkve do državne granice između Vračevog Gaja i Bazijaša. S vremenom su pojedini delovi pruge demontirani i danas je u eksploataciji samo deo pruge između Jasenova i Bele Crkve. Sve kasnije izgrađene glavne pruge u Vojvodini položene su u smeru ka Pešti.

U okviru tadašnje Otomanske imperije, na našoj teritoriji je 1874. godine puštena u saobraćaj pruga od Skoplja do Kosovske Mitrovice.
Na Berlinskom kongresu 1878. godine Srbiji je priznata nezavisnost i dobijena su još četiri nova okruga–Niški, Pirotski, Vranjski i Toplički. Na ovom kongresu Austrougarska je pomogla Srbiji da dobije nove teritorije, ali je to uslovila sklapanjem posebne konvencije. Tom konvencijom Srbiji je nametnuta obaveza da napravi prugu od Beograda do Vranja i granice s Turskom i Bugarskom za tri godine. Takodje, Srbiji je nametnuta obaveza zaključivanja ugovora o trgovini i zahtev da se obavi regulacija Đerdapa. Ovakav ugovor srpska vlada je odobrila Zakonom o proglašenju konvencije.
U Srbiji, iscrpljenoj ratom protiv Turaka, vladala je ekonomska kriza. Država nije bila u stanju da odgovori obavezama koje su proizilazile iz sklopljene konvencije. Beč je stalno urgirao, upozoravao i pretio. Aprila 1880. Srbija je bila primorana da potpise novu konvenciju koja se isključivo odnosila na izgradnju pruge. Rok za izgradnju pruge bio je opet tri godine, odnosno 15. juni 1883. godine. Krajem 1880. godine vlada je raspisala licitaciju na koju se javilo jedno francusko društvo iz Pariza – "Generalna unija". Knez Milan Obrenović je srebrnim budakom 3.7.1881. godine udario temelj Srpskim državnim železnicama. Ovaj događaj zbio se "kraj mosta na Mokroluškoj rečici do Topčiderskog puta" (to mesto je u blizini današnjeg mosta "Gazela" u Beogradu). Posle samo godinu dana "Generalna unija" je bankrotirala, pa je radove nastavilo novoformirano Društvo za izgradnju i eksploataciju Srpskih državnih železnica. Zbog toga je prvi svečani voz na pruzi Beograd–Niš zakasnio čitavih petnaest meseci i protutnjao Moravskom dolinom 23. 8. 1884. godine. (4. septembra po Gregorijanskom kalendaru). Redovni saobraćaj otpočeo je 3. 9. 1884. godine (15. septembra po Gregorijanskom kalendaru; taj dan Jugoslovenske železnice obeležavaju svake godine kao Dan železničara Jugoslavije).

Gradnja pruge kod Vršca, 1856. godine

Posle Prvog svetskog rata sve ove teritorije su se ujedinile u Kraljevinu SHS i železnička mreža postaje jedinstvena, kakva ostaje i posle Drugog svetskog rata. Mrežu pruga sačinjavalo je pet sistema različitih kolosečnih širina i to: 0,600 m, 0,750 m, 0,760 m, 1 m i 1,435 m.
Godine 1964. donet je program modernizacije JŽ, koji je uključio i masovno ukidanje uzanih i nerentabilnih pruga.
Godine 1970, tačnije 31.5.1970. puštena je u saobraćaj prva elektrificirana pruga na mreži JŽ– Beograd–Šid–državna granica (Zagreb).
Sredinom devedesetih godina počinje intenzivna revitalizacija pruga u Vojvodini (Sečanj–Vršac, Kikinda–Banatsko Aranđelovo, Horgoš–Kanjiža).
Tokom agresije NATO snaga na našu zemlju znatan deo pruge i postrojenja na mreži je uništen ili onesposobljen. Razvoj i modernizacija započeta početkom 90-tih naglo je usporena i prekinuta u ovom periodu. Tragovi ovih događaja prikazani su kao ratna šteta.
Danas mreža pruga ŽS iznosi 4.347 km, od čega je elektrificirano 1.387 km (32%). Ova mreža pruga prikazana je na karti, a u prilogu su dati podaci za sve pruge ili delove pruga koji su danas u eksploataciji (s nazivom uprave pod kojom su izgrađene i datumom izgradnje).