Hlavním účelem železniční sbírky při založení muzea, podobně jako u většiny ostatních oborů, bylo především dokumentování a propagování současné železniční techniky. Přední české železniční strojírny, jejichž zástupci byli členy příslušné „oborové skupiny“, darovaly do sbírek muzea mnoho vzorků nových nebo zkoušených součástí. Postupem času se činnost železničního oddělení zaměřila především na dokumentaci vývoje železniční dopravy na území dnešní České republiky.
Vedle rozsáhlé sbírky historických kolejových vozidel, která čítá více než 150 vozidel normálního nebo úzkého rozchodu a neustále se doplňuje, sbírá Železniční muzeum NTM rovněž součásti hnacích i tažených vozidel (pojezd, kotel, parní stroj, vozová skříň), různá železniční zařízení (přístroje, zabezpečovací technika, uniformy) a příslušné doplňky. V omezené míře jsou ve sbírce zastoupeny artefakty z oboru městské hromadné dopravy, na kterou se však u nás zaměřila jiná, specializovaná muzea.
Železniční sbírka je pro větší přehlednost dále rozdělena do tzv. podskupin, které obsahují sbírkové předměty k daným okruhům železniční historie.