郑崇俭，字大章，乡宁人。万历四十四年(1616)榜进士。初任河南府推官，又做过济南兵备副使。崇祯初年升为陕西右参政，后多次升转担任了右佥都御史，巡抚宁夏。在此期间，他几次打败河套的敌人，朝廷赐给他银币，荫封他的子孙为世袭锦衣副千户。
十二年(1639)正月，崇俭升任兵部右侍郎，接替洪承畴总督陕西三边军务。五月，张献忠在谷城反叛，罗汝才等九营也都反起来，兴安发出战警。总理熊文灿请求皇上命令湖北巡抚方孔昭防守荆门、当阳，郧阳巡抚王鳌永防守江陵、远安，陕西巡抚丁启睿、四川巡抚邵捷春分别在他们的地区内严兵防守，崇俭主持提兵联合攻击。这时固原、临洮、宁夏三个总兵左光先、曹变蛟、马科跟随承畴入卫京师去了，只有柴时华中途返回甘肃，崇俭调用他而他不响应。崇俭于是传檄要副将贺人龙、李国奇等从西安出兵。国奇的队伍到略阳时士兵起哄，抢劫了瑞王的田租。国奇当时已提升为陕西总兵官，因此事被免除了新的职务，崇俭也被贬官一级。
献忠反叛后，在房县的罗犭英山大败左良玉的部队，策划进入陕西。崇俭率领人龙、国奇的部队把他遏制在兴安。贼兵回奔到兴山、太平，位于湖北、四川的交界地带。这时，杨嗣昌已经出兵，到文灿的军中取代了他的位置。在此之前，尚书傅宗龙建议让崇俭兼管四川的军队，而嗣昌已经发布檄文要求陕西的军队进入四川。崇俭于是在十三年二月率领人龙、国奇会同左良玉在玛瑙山大败贼军，斩获首级一千三百三十三个，收降贼将二十五人，得到不计其数的马骡和兵器。这次战役，崇俭身在行伍之间，嗣昌远在襄阳，等评定功绩时，封赏的一半归嗣昌得了，崇俭只升官一级，不过是恢复以前所降的那一级罢了。
献忠失败后逃窜到柯家坪，四川将领张令追击他时被包围。崇俭派兵打跑贼兵，人龙、国奇等又一路追击，在寒溪寺、盐井打败了他们，先后斩获一千五百首级。献忠的同伙顺天王、一条龙、一双龙都投降了。崇俭的部队五天内打了三次胜仗，威名大震。他因为年老体衰请求辞官回家，朝廷不同意，命令他率领郑家栋回关中，留下人龙、国奇讨伐贼寇。
这个时候，献忠逃到兴山、归州一带的山中潜伏下来，陕西、湖北的军队都聚集在夔州，只要将领们齐心协力在深山老林中搜捕，一千多残寇就可以全部歼灭。可是崇俭离开后不久，人龙的队伍也从开县哗变西归，湖北的部队在土地岭战败，四川从此大乱起来。嗣昌于是说崇俭撤兵太早，导致贼兵猖獗起来。庄烈帝起初因为崇俭没能管住自己的军队就已经不高兴了，到这时就下令把他剥夺官籍，让启睿到军中接替了他；又怀疑他借病推托，让巡按官核实情况。第二年春天，献忠打下襄阳，嗣昌死掉了，庄烈帝更加痛恨崇俭没有给嗣昌充当犄角，支持他平定贼寇，就把他逮捕下狱，责备他唆使士兵擅自返回，无视军规，不等到秋后就在五月里把他斩首街头了。
庄烈帝从即位以来杀过七位总督，分别是郑崇俭、袁崇焕、刘策、杨一鹏、熊文灿、范志完、赵光扌卞。庄烈帝因为盗贼的势力日益壮大而气愤，运用法律更加苛刻，功罪不能互相抵销，封疆大事也随着一天天坏完了，直到最后亡国为止。福王在位时，给事中李清说：“崇俭没有丧失过一座城池或一支部队，因为他人巧言卸责被判处了死刑。群臣背地里都知道他的冤屈，却没有人敢出来诉说，对此我很是痛心。”崇俭的冤屈才得到昭雪。