清明最早只是一种节气的名称，其变成纪念祖先的节日与寒食节有关。晋文公把寒食节的后一天定为清明节。在山西大部分地区是在清明节前一天过寒食节；榆社县等地是在清明节前两天过寒食节；垣曲县还讲究清明节前一天为寒食节，前二天为小寒食。
相传春秋时期，晋公子重耳为逃避迫害而流亡国外，流亡途中，在一处渺无人烟的地方，又累又饿，再也无力站起来。随臣找了半天也找不到一点吃的，正在大家万分焦急的时候，随臣介子推走到僻静处，从自己的大腿上割下了一块肉，煮了一碗肉汤让公子喝了，重耳渐渐恢复了精神，当重耳发现肉是介子推自己腿割下的时候，流下了眼泪。
十九年后，重耳做了国君，也就是历史上的晋文公。即位后文公重重赏了当初伴随他流亡的功臣，唯独忘了介子推。很多人为介子推鸣不平，劝他面君讨赏，然而介子推最鄙视那些争功讨赏的人。他打好行装，同悄悄的到绵山隐居去了。
晋文公听说后，羞愧莫及，亲自带人去请介子推 ，然而介子推已离家去了绵山。绵山山高路险，树木茂密，找寻两个人谈何容易，有人献计，从三面火烧绵山，逼出介子推。 大火烧遍绵山，却没见介子推的身影，火熄后，人们才发现背着老母亲的介子推已坐在一棵老柳树下死了。晋文公见状，恸哭。装殓时，从树洞里发现一血书，上写道：“割肉奉君尽丹心，但愿主公常清明。”为纪念介子推，晋文公下令将这一天定为寒食节。
第二年晋文公率众臣登山祭奠，发现老柳树死而复活。便赐老柳树为”清明柳“，并晓谕天下，把寒食节的后一天定为清明节。
