谢艾初任主簿。
永和二年（346年），
前凉文王
张骏去世，其子桓王
张重华继位。后赵皇帝
石虎派遣大将
麻秋、
王擢、
孙伏都等率军攻打前凉，企图并吞
河陇，一统北方。麻秋接连攻克武街、金城，兵锋直指前凉都城
姑臧。面对强敌，张重华命征南将军裴恒屯兵广武，抵御赵军。裴恒在广武修筑壁垒，想用持久战把赵军拖垮。牧府相司马张耽向张重华举荐谢艾，说谢艾文武兼备，又懂得战略，如果让他担任军事统帅，必定能击败赵军。
张重华于是召见谢艾，询问他抵御赵军的办法，谢艾请求给他七千兵众，一定能击败赵军。张重华非常高兴，任命谢艾为中坚将军，配给他步兵、骑兵五千人，让他去攻打
麻秋。谢艾带领军队出振武，夜里有两只猫头鹰在军营中呜叫，谢艾说：“玩六博棋时，得到饰有猫头鹰图案棋子的人获胜。如今猫头鹰在军营中呜叫，这是战胜敌人的征兆。”于是就进军与赵军交战，大败赵军，斩首五千多人。张重华封谢艾为福禄伯。
永和三年（347年）四月，石虎派麻秋再度西征，围攻前凉的战略要地
枹罕。
石虎又任命中书监
石宁为征西将军，率领并州、
司州的军队二万多人作为
麻秋的后继部队。张重华的部将宋秦等人率领二万多户人家向后赵投降。但枹罕在前凉将领张璩等人的据守下，击退了麻秋的进攻，麻秋退保大夏。
张重华任命谢艾为使持节、军师将军，率领步兵、骑兵三万人进军临河。麻秋也率三万兵马迎战。谢艾乘坐轻便的小马车，戴着白色便帽，击鼓前进。麻秋远远望见，愤怒地说：“谢艾是年轻书生，如此穿着，这是轻视我。”于是就命令装备黑色矛的三千龙骧兵驰马攻打他，跟随在谢艾周围的兵众大为惊忧。左战帅李伟劝谢艾应该骑马作战，谢艾不听，下车以后，坐在交椅上，指挥部署，赵军以为有伏兵，因害怕不敢再前进。别将张瑁率兵从小路截断赵军的后路，赵军兵退，谢艾乘势进攻，于是大败赵军，斩杀赵军将领杜勋、
汲鱼，俘虏斩杀的有兵众一万三千多人，麻秋单身匹马逃奔大夏。谢艾因功升任为太府左长史，进封福禄县伯，食邑五千户，赐帛八千匹。
永和三年（347年）五月，麻秋在枹罕又聚集十二万大军，与石宁进兵屯驻
河内（《
资治通鉴》作河南），企图再次反攻。他派遣
王擢为先锋，侵占晋兴、广武、武街，越洪池岭，军锋抵达曲柳，逼近姑臧。张重华决定亲自出征抵御，被谢艾、别驾从事
索遐所劝阻。张重华于是任命谢艾为使持节、都督征讨诸军事、行卫将军，任命索遐为军正将军，率领步兵、骑兵两万人前去抵御赵军。前凉别将杨康在沙阜打败刘宁，刘宁后退驻扎在金城。
永和三年（347年）七月，
石虎又派征西将军
孙伏都、将军刘浑率领步兵、骑兵二万人与麻秋的军队会合，长驱直入，渡过黄河，攻打前凉，屯军长最（地名）。谢艾屯军于神鸟（地名），王擢与谢艾的前锋部队交战，王擢兵败，逃回黄河以南。八月初三日，谢艾进军攻打麻秋，大败麻秋，麻秋逃回金城。谢艾班师返回，讨伐反叛的敌虏斯骨真等一万多个部落，将其击败，斩首一千多人，俘虏二千八百人，夺得牛羊十万余头。
谢艾因为
枹罕之战的功劳，在
张重华面前很受宠，周围的人对此很妒忌，就说坏话诬陷他。张重华因此把他调离出去，担任酒泉太守。在此期间，谢艾主持修建了酒泉钟鼓楼，作为巡逻、报时、防寇报警之用。
永和九年（353年）十月，张重华病重，张重华的太子
张耀灵年方十岁。张重华庶兄长宁侯
张祚趁机谋夺权位，与张重华的宠臣
赵长、
尉缉相勾结，祸乱朝政。谢艾为此深为忧虑，上疏张重华，建议驱逐张祚、赵长等人，并自请回武威。十一月初十日，张重华亲手写下命令征召谢艾回朝，担任卫将军，监察中外诸军事，并辅佐朝政。然而，张祚、赵长等人将手令隐藏起来而不加以公布。十一月十八日，张重华去世，张曜灵继位，赵长等人假传张重华遗命，让张祚出任都督中外诸军事、抚军大将军，辅佐朝政。同年十二月，
张祚篡位，废黜
张耀灵，并诛杀谢艾。
谢艾以书生领兵，以弱制强，在广武、临河、神鸟三次会战中击败
后赵名将
麻秋、
王擢，保卫了汉人在北方的最后净土——前凉政权。
谢艾文武兼备，除善于用兵外，还著有《谢艾集》，共八卷。
北凉哀王
沮渠牧犍在位时，曾向
南朝宋贡献方物，其中就有《谢艾集》。此书直到
唐朝初年仍然存世，
魏徵编撰《
隋书·经籍志》时，著录此书。
石虎：“吾以偏师定九州，今以九州之力困于枹罕，彼有人焉，未可图也。”