地名由來：因境內(nèi)舊有平山寺，取“平山”二字得名。
2015年2月，中央文明委決定授予平山鎮(zhèn)第四屆全國文明村鎮(zhèn)稱號。
2005年3月23日，《關(guān)于平山鎮(zhèn)村級規(guī)模調(diào)整的批復(fù)》（政秘[2005]28號）同意：1、撤銷平山村委會、路西村委會，設(shè)立平山居委會，居委會駐址設(shè)在原平山村村部。2、撤銷貓山村委會，設(shè)立貓山居委會，居委會駐址設(shè)在原貓山村村部。3、撤銷石山村、牛行村，組建石牛村，村址設(shè)在原石山村村部。4、撤銷天津村、良山村，組建津山村，村址設(shè)在原天津村村部。5、將大洼村、鳳凰村合并，組建新的大洼村，村址設(shè)在原鳳凰村村部。6、撤銷楊祠村、頂成村，組建高澤村，村址設(shè)在原楊祠村村部。保留鳴鳳村、崗山村、范祠村、花車村、大段村、汪嶺村。以上村級規(guī)模調(diào)整后，平山鎮(zhèn)設(shè)置2居委會，10個村委會。
歷史沿革：
建國初為牛行、大段、平山3個鄉(xiāng)。
1960年屬龍泉人民公社。
1962年劃為平山人民公社。
1972年劃分為平山人民公社和大洼人民公社。
1984年體制改革，公社改鄉(xiāng)，為平山鄉(xiāng)和大洼鄉(xiāng)。
1992年將平山鄉(xiāng)劃歸石牌鎮(zhèn)。
2004年區(qū)劃調(diào)整后將石牌鎮(zhèn)皖河以北6個村村民委員會及大洼鄉(xiāng)合并后，新建平山鎮(zhèn)，屬懷寧縣管轄，地名沿用至今。