魏明帝太和年间（227年-233年），朝廷征召能消灾排难的隐逸有学问的人士，郡中多次推荐张臶，张臶以年老多病为由，没有前去。
广平太守
卢毓上任三天，纲纪（主簿）报告可以按以前的做法，送交拜帖去见张臶。卢毓教训他道：“张先生是所谓既上不侍奉皇帝，下不结交诸侯的人。对这样的人，难道用拜帖请见，就可以让他美名更卓著吗？”于是只派主簿带着信，送上羊、酒作为仪礼。
魏齐王
曹芳正始元年（240年），张臶以一百零五岁高龄去世。据说当时有
戴胜鸟在张臶家门北面筑巢。张臶对门人说：“戴胜鸟属阳，却在属阴的背面筑巢，这是凶兆啊。”于是他弹琴唱歌，作诗两篇，十天后就去世了。
同年，广平太守
王肃到任，对张臶表达了敬意，并给他的家属荣誉和特殊照顾。
张臶一百零五岁的年龄，是《
三国志》中明文所载，他是东汉末到三国时期有可靠记载的最长寿的人之一。
魏明帝
青龙四年（236年）诏书说：“
张掖郡黑河（
玄川）的汹涌波涛中出现了宝石背负的图像，图像画的是一只灵龟，立于川西，青色的质地，素色的文路，又画有麟凤龙马，形状鲜明，文字宣告天命，粲然可观，意义著明。太史令
高堂隆上告朝廷说：‘这种宝物的显示是古代圣明皇帝所没有蒙受过的，实在是大魏的吉祥命运，
东序的罕见之宝。’”此事颁告天下。任县县令于绰将诏书带去询问张臶，张臶秘密地对于绰说：“神明只预言未来，而不追述以往。先用祯祥之兆预告未来，然后兴盛还是衰落才会随之而来。汉朝灭亡已久，曹魏已得天下，还追述什么兴废之兆呢？这块宝石今天的变异，只是将来之吉祥的征兆。”后来司马氏果然取代了曹魏。（有文献指出，此图被发现于青龙三年，图上还有“大讨曹”的字样。即“
柳谷瑞石”之事。）
因为史书中的相关记载，张臶被认为是一位
古琴音乐家。例如
周庆云的《
琴史补》中，张臶就被列为琴人之一。但他的作品并未流传下来。
与张臶同时代的人，对他的评价往往着眼于他在乱世中不任官、不投靠诸侯的隐士之风，以及造福乡里的功绩。例如王肃评价他道：“此君笃学隐居，不与时竞，以道乐身。”
陈寿则称他与另一隐士
胡昭“阖门守静，不营当世”。此外后世也有人认为张臶的淡泊明志、不慕名利是他长寿的秘诀。