台铁局的创建，可追溯至清治时代的1887年由台湾巡抚刘铭传成立的全台铁路商务总局，为台湾铁路运输肇建之始；但机构之直接前身，为日治时代的台湾总督府交通局铁道部（简称“铁道部”），现今的组织编制与线路规模多奠基于此时期。

其徽章于1950年代启用，是由代表台湾的俗体字“台”字、加上铁轨的横断面所组成。