在台灣民間傳說,玄天上帝本為一位屠夫,某日得觀音大士指點,乎感滿身鮮血罪孽,為表誠心修道之心,遂開腸剖肚將腸胃棄於河中,已贖己罪,由於他的改過修行至誠感動蒼天,便準其升天成仙。而後被玄天上帝棄於河中之腸胃,化作龜蛇二妖,禍亂人間,玄天上帝得知後便下凡與龜蛇二妖展開激烈戰鬥,最後並成功將二妖收服於腳下。(玄天上帝用三十六官將與向呂洞賓亦說保生大帝吳真人借來的七星寶劍降伏了妖怪,但未歸還故寶劍未入鞘拿在手上。)
太祖朱元璋在與陳友諒一次交戰中落敗逃至武當山,後方追兵緊追不捨,朱元璋一急之下躲進真武殿內,而被朱元璋闖入時弄破的蜘蛛網竟在他躲進去之後又自行密合,因此騙過了後方追兵。朱元璋一統江山後立即整修真武大殿並封真武大帝為玄天上帝,以奉玄天上帝為護國神祇。