1922年﹐徐尔建出生在基督教长老会家庭中，6岁丧父。1936年受洗。初中就读于山东滕县华北弘道院。1942年因太平洋战争爆发﹐赴安徽国立第22中读高中。毕业后赴重庆，1945年考取交通大学机械系，并开始参加重庆地方教会的聚会（在张郁岚家客厅，江守道讲道）。
946年，交大迁回上海，而上海教会也已恢复聚会，李常受和汪佩真到交通大学开展校园福音工作，吸引一批青年学生，徐尔建也是其中之一。这时他热切参加聚会（当时在哈同路文德里）、祷告、交通、布道等教会活动，开始背读圣经，并成为交大学生团契负责人。1948年春，战后第一次全国地方教会同工长老特会在上海召开，徐尔建也受邀参加。受到“交出来”的激励，徐尔建和一批交通大学的青年学生热烈地在校园和街头传福音[1]。
1949年5月9日﹐解放军攻占上海前夕，徐尔建乘船赴台湾，先在铁路局工作。1950年，他和来自上海的另外四位青年信徒
史伯诚、魏建章、何广明、林三纲，跟随李常受学习事奉。1950年代，以上5人被派往台湾各地地方教会担任同工，史伯诚负责嘉义教会，林三纲去台中﹐魏建章去基隆﹐何广明去新竹﹐徐尔建去台南。1958年﹐李弟兄派徐尔建到高雄服事。1959年初﹐徐尔建邀请李常受到高雄三军球场传福音﹐参加者有一万人。
1955年和1957年，史百克两次到台湾，公开批评地方教会立场[2]。上述5人受到影响，认为史百克看见了圣经更高的亮光。1959年4月﹐李常受在台北教会聚会所宣布不再和史百克同工后﹐徐尔建即不再参加同工会[3]。在高雄中学教书。1960年，开始出版得胜报，编译史百克作品。1961年，马尼拉地方教会发生分裂﹐于是徐尔建受缪绍训、吴仁杰之邀赴马尼拉事奉。1973年﹐迁居美国新泽西州﹐1990年又迁居加州洛杉矶。