西汉末年，王莽篡位，杀了汉平帝。汉平帝的皇后是王莽的女儿，生下一子刘秀，王莽为斩草除根，非杀掉刘秀不可。正在危急时刻，一个忠臣巧使掉包计，用自己妻子刚生下的女儿将襁褓中的刘秀换了过来，对外保密，说是自己的儿子，后来不知道怎么被王莽知道了，下令追查，看掩藏不住，就叫刘秀连夜只身逃出京城长安。那时，刘秀已是十几岁的小伙了，他隐名埋姓，受尽风霜饥寒，辗转潜逃到河南南阳一带，求贤访才，积蓄力量，起兵讨伐王莽。
白河滩一仗，初战不利，人马被打散，刘秀独自一人向南阳西北方向伏牛山逃去，王莽带兵在后面紧紧追赶。这天，刘秀跑到一座荒山下面，当时正是六月盛夏，赤日炎炎似火烧，又加上久旱不雨，刘秀又饥又渴，瘫倒在一块立陡的石壁下边，热得刘秀张开大口直喘粗气，刘秀心想，莫非今天我要死在这里？不由得自言自语道：“山哪，你歪歪头转转身，给我遮个荫凉，让我逃出一条活命吧！”话音刚落，那山峰真的向刘秀歪了过来，一片荫凉正好把刘秀遮住，刘秀幸免一死。
刘秀喘息一会儿，嘴里渴得冒火肚子又饿。这时从山脚下叫“来沟”的村庄上走来一位老婆婆，手提一只小瓦罐，刘秀勉强挣扎起身子，向那老婆婆深施一礼，说：“大娘，我快要饿死了，救救命吧！给口吃的吧！”刘秀双手捧着饭罐，脸一仰嘴一张，一口气把一罐小米汤喝得只剩下半罐。老婆婆把剩下的提到老伴那里，老伴一看恼了，斥责老婆婆给他送饭送的少，老婆婆把刚才的事情一说，老头不但不生气，还把剩下的又让刘秀喝了。正说话之间，山那边传来人喊马叫，刘秀慌忙拜谢老人，掏出一锭银子，转身向附近山沟躲藏。
后来，刘秀到洛阳登基称帝，回忆起这件事，派一位大臣到这座山下的“来沟”村查访老俩口，要重谢老人，一问老两口早已下世。刘秀为报答老人恩情，下旨在此山上修建一座庙，这座庙命名为“先亡庙”，就在遮山顶上。