万历十一年（1583年）进士。幼年聪明颖悟，师从
魏学曾时，立侍终日，毫无倦容。初授光山县（治今河南省
光山县）知县。光山出产葛麻，年年都要进贡，百姓深以为苦。牛应元招募工匠，专自织造，直接上解，免去了百姓的赔累。他又设立义仓，存谷6800余石，即使偶遇灾荒，亦可以无虞。当地有一种怪兽，酷似传说中的麒麟。牛应元并不将其视作瑞兆。有一宦官行经光山，得知此物，绘图报告了皇上。皇上责令牛应元献瑞，牛应元答道：“国家以民和年丰为瑞，把麒麟作为祥瑞，这是谄媚之语，小臣宁死不敢谄媚皇上！”皇上认为他说得对。不久，考授都察院监察御史。他巡察应天府（治今江苏省
南京市）的当儿，正值宦官们充任矿监税使，在各地以征商开矿为名，大肆掠夺民间财富的时候。他不畏权贵，抓捕了那些乘机为非作歹之徒，并将其绳之以法，受到了时人的好评。后历大理寺丞、大理寺少卿。
万历三十一年（1604年），正当朝廷上下围绕帝位继承人展开明争暗斗时，出现了意在动摇“国本”的所谓“妖书”。皇帝大怒，敕令有司大索奸人。
锦衣卫获顺天府（治今北京市）生员皦生光，据其以往言行，怀疑“妖书”系其所为。于是给事中钱梦皋和御史康丕扬刑讯逼供，令其诬说是受礼部侍郎郭正域唆使，企图借机陷害郭正域及礼部尚书沈鲤等人。牛应元在参预审讯此案时，担心皦生光招架不住，胡咬乱攀，遂手指头顶，对皦生光说：“天鉴在兹，断不敢波及无辜！”皦生光自料必死无疑，即仰面骂道：“死就死了，为何教我逢迎上官，无辜牵连郭侍郎！”最后，终于只处决了皦生光一人。牛应元秉公执法、保全善类的品行深感人心。后来晋升御史中丞，巡抚南赣（今江西省南部一带）。他努力整饬军务，考核将领，选拔人才，禁止贿赂。公务之余，还设立文社，与诸生讲求学问，释惑解疑，被诸生视作难得的良师益友。后以年老多病休假归里，临离任前，将积存的税金全部封存，充作国库收入。
牛应元家居10余年后，经陕西主政诸官
荐举，被起用为南京大理寺卿，不久调回北京任刑部右侍郎，再迁刑部左侍郎。经其一再上表请求，被允准辞职回乡。牛应元回乡之后，闭门不出，一心著述，撰有《四书质言》、《会墨录》、《侍御疏稿》等书。去世后，赠
刑部尚书。