世界上最早出现的铁甲防护的战舰可能是《亚历山大远征记》中记载的公元前332年，亚历山大进攻提尔城（圣经中称推罗）时提尔人使用的一些装上铁甲的战船。

马其顿人也如法炮制了一些铁皮船。后世知名的铁甲船还有日本的铁甲船和朝鲜的龟船。

19世纪中叶后，随着科学技术和造船工业的发展，风帆战列舰逐渐让位给蒸汽战舰。

1849年，法国建造出世界第一艘以蒸汽机为辅助动力装置的战列舰——“拿破仑号”，它成为海军蒸汽动力战列舰的先驱。十九世纪下半叶早期的一种蒸汽式军舰，外覆有坚硬的铁或钢制装甲。由于木造军舰无力抵御越来越强大的炮弹的轰炸，铁甲舰便应运而生。

1859年11月，由法国海军领衔的全球第一艘主力铁甲战舰光荣号首度启航。英国皇家海军自1856年起筹划发展装甲战舰，1857年顺利拟定装甲护卫舰草稿图，但1859年初皇家海军选择打造二艘铁甲巡防舰，并于1861年决议朝全装甲舰队发展。在美国内战期间铁甲舰首度交锋后，帆船时代无装甲（木质船壳）的战列舰已明显居于弱势，铁甲舰便取代之，跃身成为水战最强大的船舰。