初级学院的兴起标志着美国高等教育的结构进一步完善。
为改变美国高等教育体系中部分学院教育质量低下，并满足民众多样化高等教育需求，1892年芝加哥大学校长哈柏(W.R.Harper)首先提出把大学4个学年一分为二，前两年为“初级学院”阶段，后两年为“高级学院”阶段。1901年，伊利诺伊州乔利尔特初级学院设立。此后，初级学院在美国广泛开办。1920年“美国初级学院协会”成立。在发展过程中，初级学院逐步确定为升学做准备、开展职业教育、提供普通教育及服务社区等教育职能。初级学院以其灵活的课程设置计划和多样化的教育职能而获得较为快速的发展。到1950年，全美已拥有初级学院634所，学生达到56.2万人。
