Ο όρος «βαριά σιδηρόδρομος» έχει διαφορετικές έννοιες, ανάλογα με την περιοχή του κόσμου. Γενικά, ο βαρύς σιδηρόδρομος ορίζεται ως ένα σύστημα μεταφοράς υπεραστικών τρένων που κινείται σε αποκλειστικές γραμμές που έχουν ξεχωριστό δικαίωμα διέλευσης. Ορισμένοι Αμερικανοί χρησιμοποιούν επίσης τον όρο σε σχέση με την ταχεία διέλευση, όπως οι ανυψωμένες γραμμές του μετρό στη Νέα Υόρκη και το Σικάγο. Αυτή η αμερικανική χρήση προορίζεται να διαφοροποιήσει αυτά τα συστήματα από άλλα συστήματα συρμών δημόσιων συγκοινωνιών που μπορεί να μοιράζονται το δρόμο με την κυκλοφορία.
Συνήθως, οι σιδηροδρομικές γραμμές βαρέων σιδηροδρόμων εκτελούνται από τη μια πόλη στην άλλη από έναν φορέα εκμετάλλευσης τρένων, αλλά αυτή η εταιρεία μπορεί να επιτρέψει σε άλλες εταιρείες να χρησιμοποιήσουν τις γραμμές. Με αυτόν τον τρόπο, οι χειριστές μπορούν να δημιουργήσουν ένα δίκτυο από χρησιμοποιήσιμα κομμάτια χωρίς να χρειάζεται να τα τοποθετήσουν προσωπικά. Επειδή οι γραμμές μοιράζονται μεταξύ πολλών χειριστών, το περιτύπωμα είναι τυποποιημένο για να διασφαλίζει ότι όλα τα τρένα θα ταιριάζουν σε αυτά. Η χρήση των κομματιών είναι επίσης προσεκτικά προγραμματισμένη για την αποφυγή συγκρούσεων.
Σε αντίθεση με τον ενδοσιδηρόδρομο, ο βαρύς σιδηρόδρομος χειρίζεται εμπορεύματα εκτός από τους επιβάτες. Τα ίδια τα τρένα μπορεί να είναι βαρύτερα ή ελαφρύτερα από αυτά που χρησιμοποιούνται στην αστική συγκοινωνία και τείνουν να είναι πιο αργά. Είναι επίσης σχεδιασμένα για μεγάλα ταξίδια, με επιβατικά τρένα που προσφέρουν μπάνια, βαγόνια φαγητού και καταλύματα για ύπνο. Αυτά τα τρένα μπορεί να γίνουν πολύ μακρά και δυσκίνητα, επομένως ο βαθμός στις βαριές σιδηροδρομικές γραμμές διατηρείται εσκεμμένα ήπιος, έτσι ώστε τα τρένα να μην χρειάζεται να σκαρφαλώνουν απότομα βουνά ή να κατεβαίνουν γρήγορα. Οι γραμμές είναι επίσης συνήθως απαλά κυρτές, έτσι ώστε τα τρένα να μην ανατρέπονται όταν εναλλάσσονται με μεγάλη ταχύτητα.
Επειδή οι βαριές σιδηροδρομικές γραμμές κινούνται σε ξεχωριστό δικαίωμα διέλευσης, το τρένο σπάνια χρειάζεται να αντιμετωπίσει την κυκλοφορία των οχημάτων. Η εξαίρεση σε αυτόν τον κανόνα συμβαίνει στις διασταυρώσεις τρένων, όπου ένα τρένο μπορεί να χρειαστεί να διασχίσει μια δημόσια οδό για να φτάσει σε έναν προορισμό. Σε αυτή την περίπτωση, το τρένο έχει συνήθως το δικαίωμα διέλευσης, αν και επιβραδύνει πριν φτάσει στη διάβαση για να διασφαλίσει ότι όλα τα αυτοκίνητα που βρίσκονται στη γύρω περιοχή είναι σταματημένα. Για τους οδηγούς, η αναμονή σε μια διάβαση τρένου μπορεί να είναι απογοητευτική όταν το τρένο είναι εξαιρετικά μεγάλο.
Ειδικά στις Ηνωμένες Πολιτείες, ο βαρύς σιδηρόδρομος κάποτε κυριαρχούσε, με χιλιάδες μίλια σιδηροδρομικών γραμμών να διασχίζουν τη χώρα. Με την άνοδο των φορτηγών, η χρήση βαρέων σιδηροδρομικών μεταφορών μειώθηκε, αν και πολλά αγαθά εξακολουθούν να αποστέλλονται με τρένο. Μερικοί λάτρεις των τρένων σκέφτονται με αγάπη αυτήν την εποχή και αφιερώνουν πολύ χρόνο και ενέργεια στην έρευνα βαρέων σιδηροδρομικών συστημάτων. Πολλοί από αυτούς τους λάτρεις των τρένων απολαμβάνουν επίσης πολύ τα ταξίδια με τρένο, προτιμώντας το τρένο από την οδήγηση, τις πτήσεις και τα λεωφορεία, καθώς τους επιτρέπει να απολαμβάνουν σιγά σιγά τη χώρα ενώ ταξιδεύουν.