1882年，张之洞任山西巡抚期间奏准在太原府署西偏明代晋藩宝贤堂故址创立令德堂。

1897年，更名为山西省会学堂。

1912年，更名为山西师范学堂。

1952年，太原市教育局在北肖墙创立太原女子中学校，成为山西省实验中学历史的正式开端。

1955年7月，太原女子中学更名为太原第十初级中学校，并迁往解放路省实验中学校址。

1958年，学校由初级中学校更名为山西省太原第十中学校。

1986年，正式更名为山西省实验中学，学校划归省教育厅直接领导。

2000年，学校在太原市南部的高新技术产业开发区建设高新校区（晋阳街）。

2009年9月，省实验中学高新校区落成启用。

截止2014年，山西省实验中学解放校区占地面积50余亩（3.33万余平方米），有建筑面积2.2万平方米的综合教学大楼，建筑面积1.2万平方米的学生公寓大楼，建筑面积1.8万平方米的教师宿舍大楼，以及教学实验楼、艺术楼、体育馆和校园广场等。

山西省实验中学高新校区占地面积12万平方米，建筑面积110.2万平方米。包括教学楼、艺术楼、综合实验楼、教师办公楼、图书馆、行政办公楼、公寓楼、学生食堂和综合体育馆和运动场。

截止2014年，学校有教师300余名，专职教师98人，全部拥有大学本科以上学历。教师年龄、教龄、职称、学科、性别结构合理。高级教师63人，一级教师26人，二级教师28人；有省特级教师7人、省学科带头人18人、太原市学科带头人25人、省教学能手32人、课题组成员20人、太原市教学能手12人、山西省骨干教师3人、太原市骨干教师20人、太原市名师5人。