学校的办学历史最早可以追溯到1919年民国农商部与江苏省合办的海州渔业技术传习所。
1958年经江苏省政府批准,锦屏磷矿技术学校、新海连水产专科学校、新海连制盐工业学校相继成立。
1985年江苏省委省政府创办淮海大学,胡耀邦题写校名。建校之初,由北京大学校长丁石孙教授担任顾问委员会主任,南京大学、东南大学等12所高校对口援建。
1989年经国家教委批准,在筹建淮海大学的基础上建立淮海工学院。
1998年至2002年,江苏盐业学校、连云港水产学校、连云港化工高等专科学校先后并入淮海工学院。
2010年学校成为硕士学位授予单位。
2017年7月学校成为博士学位授予立项建设单位。
2019年7月学校由淮海工学院更名为江苏海洋大学。