秦朝末年,刘邦被县令指派押送一批民夫到骊山为秦始皇修造陵墓。行至商丘永城芒砀山时,人已逃走大半。刘邦只管趁月色赶路,当走到芒砀山前荒草野径之中,突遇白色大蛇拦路而卧,众人惊恐不安。刘邦拔剑上前,将蛇斩作两段。白蛇被斩后,血流满地,随后在斩蛇处长出一片红草来,至今历两千余年此处红草仍颜色不改。
刘邦斩蛇之后随即扯旗造反,在芒砀山一带招兵买马,经数年征战,终于在公元前202年建立西汉王朝。汉文帝时,为纪念刘邦在此斩蛇造反,在斩蛇处立碑建庙。历经千年,碑庙几经损坏,又几经修建。刘邦斩蛇碑吸引人之处除了有关它的历史传说以外,还由于碑体所呈现的神奇幻影——每当夜幕降临,若以灯光映照碑体时,一身披银甲的武士便跃然碑体之上,如同当年刘邦再现,令人惊叹,为天下奇观。