1910年10月汪玉山出生于上海市一户普通市民的大家庭中。家中兄弟姊妹众多，汪氏一门兄弟日后从事文化和绘画事业的很多。汪玉山天资聪颖，绘画的悟性和积极性颇高，对绘画达到了痴迷的程度，他对绘画有着一种常人所不具备的韧性，坚持每日抽出一定的时间进行绘画练习。且常年坚持不懈。经过多年的日积月累的绘画练习。汪玉山的绘画技艺有了突飞猛进的进步，他绘画的人物、场景绘画已是有型有样，初具规模和水准。具备了一定的绘画基础。1929年，年仅19岁的汪玉山创作了自己的处女作连环画《二进宫》。没料到连环画出版后，引起轰动，受到社会的关注，获得读者的一致好评。此后，他开始涉足连环画创作领域。解放前创作有大量连环画作品。
1929年开始涉足连环画坛，解放前曾创作了《二进宫》、《丁黄氏》、《野猪林》、《三十三号魔星》、《三女侠》、《三世之雄》、《三打武家寨》、《三侠剑》、《飞天儿》、《飞侠吕四娘》、《山河重光》、《千里送京娘》、《女侠燕姑》、《王老虎抢亲》、《王氏四侠客》、《王将军》、《松花江上》、《天下第一镖师》、《王虎八将》等。其中《野猪林》更是其手绘版连环画代表作，获得广大读者和专家的一致好评。三十年代中期代表作有,《三剑客》。 解放后，在新美术出版社后并入上海美术出版社继续从事连环画创作。五十年代与
钱笑呆合作的《穆桂英》获全国连环画绘画评比二等奖。此外，他还在大型连环画套书《三国演义》、〈〈东周列国故事〉〉中绘画了不少作品。生前创作了大量的连环画作品，堪称我们连环画坛的高产画家。
1949年5月上海获得解放后。汪玉山继续创作连环画。1951年4月，汪玉山经
赵宏本介绍进入
华东人民出版社工作后并入新美术出版社直到
上海人民美术出版社，担任连环画创作员。汪玉山相继参加创作了新美术出版社策划出版的《三国故事》、《东周故事》、《官场现形记》、《聊斋故事》、《封神演义》等一系列根据同名古典文学名著改编绘画的连环画。汪玉山以创作古典题材连环画居多，仍然保持着连环画创作的高产势头。他也是创作《三国演义》连环画套书中最多分册的画家。
1996年1月6日，汪玉山不幸因患病，经多方抢救医治无效，溘然病逝于上海，享年87岁。汪玉山是驰骋在连环画画坛的知名连环画家，自从1929年涉足连环画创作以来，创作连环画时间长达四十五年之久。创作题材广泛，一生共创作有连环画作品约三百余部，堪称连环画坛的高产画家。