唐朝时期，据郑处诲所撰《
明皇杂录》以及《
大唐新语》等相关文献记载，张果最初现于世间是在武则天时期，他住在恒州的中条山里，常在汾晋一带跑来跑去。但那时当地的许多百岁老人就都说，他们小时候就已经见过这个张果了，当年他就自称已有好几百岁。女皇曾经听闻他的名声，派人传召过他，可张果不肯面圣，最后诈死于妒女庙前。然而张果老诈死也没老实待着，诈死后还四处晃悠，没过多久就又被人在恒山中撞见行迹。
宋朝时期，据李昉所撰《太平广记》记载：张果老自称是尧帝时人，唐玄宗问术士“叶法善”张的来历，叶法善说：“臣不敢说，一说立死。”后言道：“张果是混沌初分时一白蝙蝠精。”言毕跌地而亡，后经玄宗求情，张果才救活他。
明朝时期，据吴元泰所撰《八仙出处东游记》记载：八仙过海时，吕洞宾倡议谓不得乘云而过，须各以物投水，乘所投物而过。于是，
铁拐李投杖水中，自立其上，乘风逐浪而渡；
韩湘子以花篮投水中而渡；
吕洞宾以箫管投水中而渡；
蓝采和以拍板投水而渡。其余张果老、
曹国舅、
汉钟离、
何仙姑等各以纸驴、玉板、鼓、竹罩投水中而渡。终俱得渡海，是谓“八仙过海，各显神通”。