1897年9月23日生于江西兴国坝南区竹坝村。1909年就读于兴国北汇小学，1912年入赣州中学。1916年在家乡创办“忧道小学”，免费招收工农子弟。1919年考入云南讲武堂韶关分校，次年转入广州护国第2军讲武堂。毕业后加入赣军，任排长、连长、代营长。1924年因不满军阀混战而脱离赣军，投奔广东革命政府，被任命为广州警卫军讲武堂区队长，参加过孙中山领导的北伐和镇压广州商团叛乱。1925年入黄埔军校并加入中国共产党，在军校任学员队队长、连长、政治大队长等职，参加过沙基口反击英军和平定军阀刘震寰、杨希闵叛乱的战斗。1926年6月率一批中共党员到赣南等地发动群众，建立中共组织，开办工农运动训练班，并创办曙光印刷公司和《贯彻日报》，宣传革命思想。1927年春到南昌，入朱德创办的第3军军官教导团，任参谋长、中共支部书记。6月到临川等地开展革命活动。同年冬返回兴国，先后任中共赣南特委军事部长、兴国县委常委、兴国革命委员会党团书记、中共江西省军委驻赣南办事处主任、江西红军独立第3团参谋长、赣西南红军学校教育长等职。参与领导赣南起义和兴国暴动，创建赣南苏区；组织指挥地方武装开展游击战争，配合主力红军作战。在红4军出击赣南时，曾承担接应任务，并接受毛泽东关于建立苏维埃政府及开展土地革命的指示。1930年秋调任红4军参谋长，1931年夏改任红3军参谋长，参加中央苏区第一至第三次反“围剿”。1932年3月任红1军团参谋长，协助林彪等率部参加漳州、水口和乐安宜黄战役。1933年春调任江西军区兼东北战区指挥部参谋长，协助陈毅等指挥部队参加中央苏区第四、第五次反“围剿”。后因所谓“贪污”问题被撤职，在军委武装动员部当科员。长征途中曾任红1军团司令部教育科科长、陕甘支队第1纵队教导队队长等职。到陕北后，先后任红一方面军司令部作战科副科长，红15军团副参谋长、参谋长等职，协助徐海东等率部参加东征战役和西征战役。
抗日战争爆发后，1937年8月任中央军委总参谋部教育局局长。同年冬调任绥德警备区司令员，执行保卫陕甘宁边区、巩固黄河防务、清剿土匪、稳定社会秩序等任务。积极贯彻执行党的统一战线政策，同绥德地区以何绍南为首的国民党顽固派进行坚决斗争；同时坚持积极防御的战略方针，以“半渡而击”的战术，多次配合主力部队粉碎日军对黄河防线的进攻。1939年冬起任中央军委参谋部部长兼延安卫戍司令、抗日军政大学第3分校校长，重视对特种兵、参谋人员和俄文人才的培养。1942年春调任中央军委情报部第三室副主任。在延安整风期间，中央军委对其1933年所受处分予以正式撤销。1943年入中共中央党校学习。抗日战争胜利后，调任冀热辽军区副司令员，参与指挥古北口保卫战。1947年冬起任东满（吉林）军区副司令员、辽宁军区司令员、东北军区参谋长，曾参加东北1947年冬季攻势、1948年攻占吉林、围困长春和辽沈战役。1949年3月随军南下，6月任江西军区司令员，组织指挥剿匪作战，歼匪特4万余人。
新中国成立后，1951年被选为中共中南局委员；1952年当选为江西省政协主席。1953年调任中国人民解放军军事审判庭庭长、军事法院院长。1958年任最高人民法院副院长。
陈奇涵的一生，是革命一生，战斗一生，无私奉献的一生。他把毕生精力贡献给了中国人民的解放事业和人民军队的建设事业。但他却谦虚地说：“我对自己几十年来总的评价是，无能事，而能无事。”按笔者的理解，“无能事”，是他的自谦，“而能无事”，则是他的巨大贡献。他为追求真理，救国救民，立定“解黎民于倒悬，救民族于水火”的志向，投笔从戎，随部参加孙中山反对
北洋军阀的斗争。加入共产党以后，共产主义理想信念更加坚定。为了革命，他家房子被反动派烧了，牺牲了几位亲人。在复杂的党内斗争中，他自己也受到打击和诬陷，但革命意志从未动摇。革命成功以后，他淡泊名利，不贪图享受。他曾以诗言志：“富贵非吾愿，功名我不希，人类齐解放，攘攘与熙熙。”申报军衔时，他自报“中将”。他在军衔表上写道：“中国革命在党和毛主席的正确领导下，奋斗二十余年，今天已经胜利成功了。对我来说，个人的地位高低和得失是一个非常渺小的问题。”不久，他又准备功成身退。1957年，他60岁的时候，就主动向中央要求退下来，并推荐钟汉华中将接班。（新华网）