1950年，陈知建随全家从昆明去北京，进入
育英小学读书，初中毕业后，陈知建不想读书了，当时就是想当兵。结果，被父亲的一个老部下拎到父亲骨灰盒前，狠狠教训一顿。陈知建只得读完高中，高中毕业后就读于中国人民解放军军事工程学院（哈军工）导弹工程系遥控遥测专业。
大学毕业后，陈知建在
沈阳军区做了5年技术工作，又回总参工作9年。1983年，因中央军委欲改变军队中指挥员的知识结构，陈知建的人生发生了重大转折。那次，全军共有200多名大学毕业的技术干部，分两批集中到北京军事学院（
国防大学的前身）学习，一年后陈知建被分配到野战部队当师团级干部。这批学员中，除陈知建外，还包括
刘伯承之子
刘太行、
粟裕之子
粟戎生等不少开国元勋的后代。
陈知建曾历任技术员、
工程师，第14集团军步兵40师副参谋长兼步兵120团团长，第14集团军步兵40师副师长、集团军副参谋长，总参军务部兵员局、第二编制局局长，重庆警备区副司令员。
陈家是军人世家，四代行武。陈知建说这里面有民风的影响，也有家风的影响。就象他现视父亲为大英雄一样，曾祖父也是父亲心目中顶天立地的大英雄。曾祖父号
建威将军，青年从军，屡立战功，是湘军
曾国荃军队的一员大将，曾在
甲午中日战争中搏杀日本军。