由山西巡抚岑春煊和英国人李提摩太共同创办，设中学专斋和西学专斋，而这笔钱就是用的庚子赔款，由山西自筹赔款50万办学，每年缴5万两，10年为期，开设西学由李提摩太负责，开设英语、数学、文学、法律、物理、化学、采矿、格致、西洋史、世界史、体操、图画等，并开有物理和化学实验课。

1911年，10年期满，李提摩太顺利结束了自己的使命，便移交西学专斋。

1911年辛亥革命以后，山西大学堂改名山西大学校。

1918年7月，山西大学校列入国立范围，被称为国立第三大学。直至此时，全国公立（官立）大学仍只有北京大学、北洋大学和山西大学三所。