清明最早只是一種節氣的名稱，其變成紀念祖先的節日與寒食節有關。寒食節是中國古代較早的節日，傳説是在春秋時代為紀念晉國的忠義之臣介子推而設立的。其實，從歷史的實際來看，禁火冷食主要反映了中國古人改火習俗的遺跡。原始社會，先民們鑽木取火，火種來之不易，取火的樹種往往因季節變化而不斷變換，因此，改火與換取新火是古人生活中的一件大事。春三月正值改火的時節，人們在新火未到之時，要禁止生火。漢代稱寒食節為禁煙節，因為這天百姓人家不得舉火，到了晚上才由宮中點燃燭火，並將火種傳至貴戚重臣家中。
寒食節期間的習俗，主要有禁火冷食和後來成為清明節主要內容的祭掃墳墓。
中國古人對祭祀祖先十分重視。上古時候，家中有人去世時，只挖墓坑安葬，不築墳丘標誌，祭祀主要在宗廟進行。後來在挖墓坑時還築起墳丘，將祭祖安排在墓地，便有了物質上的依託。戰國時期，墓祭之風逐漸濃厚起來。
秦漢時代，祭掃墳墓的風氣更盛。據《漢書》記載，大臣嚴延年即使離京千里，也要定期還鄉祭掃墓地。在唐代，不論士人還是平民，都將寒食節掃墓視為返本追宗的儀節，由於清明距寒食節很近，人們還常常將掃墓延至清明。詩人們的作品，也往往是寒食、清明並提，如韋應物有詩句説：“清明寒食好，春園百卉開。”白居易也有詩句説：“烏啼鵲噪昏喬木，清明寒食誰家哭。”朝廷鋻於民間寒食、清明並舉已相沿成習，就以官方文書的形式正式規定，清明到來時，可以與寒食節一起放假。這項規定距今已經1200多年，説明從那時起清明開始具有某種國家法定節日的色彩。
宋元時期，清明節逐漸由附屬於寒食節的地位，上升到取代寒食節的地位。這不僅表上墳掃墓等儀式多在清明舉行，就連寒食節原有的風俗活動如冷食、蹴鞠、盪鞦千等，也都被清明節收歸所有了。