建兴二年（314年），征召张茂入任
侍中，张茂以父亲
张轨年老为由坚决推辞。不久，拜任张茂为
平西将军、秦州刺史。同年五月，张茂的父亲张轨去世，张茂的哥哥
张寔继承张轨的职位。
太兴三年（320年），张寔被部下阎沙、赵卯等人杀害，左司马阴元等人认为张寔的儿子
张骏年幼，于是推举张茂为
大都督、
太尉、
凉州牧。张茂不肯听从，只接受使持节、平西将军和凉州牧的职位。于是，诛杀阎沙及其党羽数百人，在境内实行大赦。又任命哥哥张寔的儿子张骏为抚军将军、武威太守，封西平郡公。
张茂为人高雅，有志向和节操，能决断大事。凉州大姓贾摹，是张寔妻子的弟弟，势力压倒西土之人。在此之前，有民谣说：“手莫头，图凉州。”张茂认为民谣中说的是就是贾摹，便把他诱杀了。于是，豪门大族都销声隐迹，张茂威严风行于西凉。
太宁三年五月十四日（325年6月22日），张茂去世，在临终时，拉着侄子张骏的手流泪说：“从前我们的先人以孝友著称。自从汉朝初年以来，世代忠诚顺从。现在华夏虽然大乱，皇上漂泊迁徙，你也应当谨慎地遵守人臣节度，不要有所丧失。我碰上天下大乱的时代，秉承先人的余德，代理此州，以保全性命，在上想不辜负晋室，在下想保护百姓。然而官职不是朝廷任命的，职位出于私下的议论，苟且地以此成事。哪里有什么荣耀呢？到死了的那天，戴白色便帽入殓，不要穿朝服，以表达我的心志。”享年四十八岁，共在位五年，谥号为成。前赵皇帝
刘曜遣使赠张茂太宰，谥号成烈王。张茂死后无子，由侄子张骏继位。
张祚称帝后，追谥张茂为成王，庙号太宗。
太兴四年（321年）二月，张茂修筑灵钧台，周围有八十多个城墙，地基有九仞高。武陵人阎曾夜晚敲门叫喊说，他是张茂的父亲
张轨派来的，质问张茂为什么劳累百姓修筑灵钧台。姑臧令辛岩认为阎曾有妖术，请求杀掉他。张茂说：“我确实劳累了百姓。阎曾传述先君之令，怎么能说是妖术呢？”太府主簿马鲂劝谏说：“现在世上祸乱未平，只能崇尚道德，不宜兴起劳役大肆修造雕饰亭台楼榭。而且连年来，逐渐感觉到各种事务一天天比以往奢侈，每次修造经营，轻易地违反常规制度，这实在不是士人百姓对明公所期望的。”张茂承认是自己的过错，于是下令停止修造劳役。
太宁元年（323年）秋，张茂又在姑臧城大兴土木，修筑灵钩台，别驾吴绍劝谏说，曾经希望停止减少劳役，使下民休养生息。现在却又兴起土木劳动民众，这难道是百姓所期望于明君的吗？张茂说，现在事情没有平息，不能拘泥于常言，在艰难危急时怎能用太平时的道理来要求人呢？吴绍无言以对。
太兴四年（321年）十二月，张茂命令将军韩璞率领部众攻取陇西、南安地区，设置秦州。
太兴五年（322年），
刘曜派他的部将
刘咸在冀城进攻韩璞，
呼延寔在桑壁进攻宁羌护军阴鉴。临洮人翟楷、
石琮等驱逐令长，以县城响应刘曜，河西大为震动。参军马岌劝张茂亲自征讨，长史氾祎发怒说：“亡国之人又想干涉扰乱大事，可斩马岌以安定百姓。”马岌说：“氾公是读书人的糟粕，只会检举批评人的近视之才，不考虑国家大计。而且朝廷政务繁忙有几年了，现在大贼来到，不劳远方之师，远远近近的人心，都关注着本州，形势决定了不可不出战。再说应该拿出信勇的明证，以符合秦、陇之人的期望。”张茂说：“马生的话有道理。”于是出兵驻扎于石头。张茂对参军陈珍说：“刘曜凭借乘胜的声势掌握三秦之地的精锐，多年整治武备，士卒惯战，如果以精锐骑兵突然攻克
南安，席卷河外，长驱而来的话，我们用什么计策对付？”陈珍说：“刘曜虽然乘着威势倚仗人多，但是恩德未行于天下，又加上关东地区与他离心不和，内患未除，精锐士卒很少，大多是氐、羌的乌合之众，终归不能舍弃关东近处之难不管，增加陇上的兵力，旷日持久地与我们比试高低。如果二十天之内不退走的话，陈珍我请求率领弱卒几千人为明公擒拿他。”张茂非常高兴，任陈珍为平虏护军，率步骑一千八百救援韩璞。刘曜暗中想要退兵而回，却声称要先取
陇西，然后回兵消灭桑壁。陈珍招募征发氐、羌之众，击退刘曜，收复南安。张茂大为嘉赏他，拜任折冲将军。
房玄龄等《
晋书》：①“茂、骏、重华资忠踵武，崎岖僻陋，无忘本朝，故能西控诸戎，东攘巨猾，绾累叶之珪组，赋绝域之琛賨，振曜遐荒，良由杖顺之效矣。祚以卑孽，阴倾冢嗣，播有茨于彤管，拟宸居于黑山，丁琪以切谏遇诛夷，王鸾以谠言婴显戮，境内云据，仇其窃名，卒致枭悬，自然之理也。纯嘏微弱，竟亡其众。奉身魏阙，齿迹朝流，再袭银黄，祖德之延庆矣。”；②“虚靖好学，不以世利婴心。”；③“茂雅有志节，能断大事。”