寇俊性宽雅，幼有识量，好学强记。兄祖训、祖礼及俊，并有志行。闺门雍睦，白首同居。父亡虽久，而犹于平生所处堂宇，备设帷帐几杖，以时节列拜，垂涕陈荐，若宗庙焉。吉凶之事，必先启告，远行往返，亦如之。性又廉恕，不以财利为心。家人曾卖物与人，而剩得绢五匹。俊于后知之，乃曰：“恶木之阴，不可暂息；
盗泉之水，无容误饮。得财失行，吾所不取。”遂访主还之。其雅志如此。
以选为魏孝文帝挽郎，除奉朝请。大乘贼起，燕、赵扰乱，俊参护军事东讨，以功授员外散骑侍郎，迁尚书左民郎中。以母忧不拜。正光三年，拜轻车将军，迁扬烈将军、司空府功曹参军，转主簿。时灵太后临朝，减食禄官十分之一，造永宁佛寺，令俊典之。资费巨万，主吏不能欺隐。寺成，又极壮丽。灵太后嘉之，除左军将军。孝昌中，朝议以国用不足，乃置盐池都将，秩比上郡。前后居职者，多有侵隐。乃以俊为之。加龙骧将军，仍主簿。
永安初，华州民史底与司徒
杨椿讼田。长史以下，以椿势贵，皆言椿直，欲以田给椿。俊曰：“史底穷民，杨公横夺其地。若欲损不足以给有余，见使雷同，未敢闻命。”遂以地还史底。
孝庄帝后知之，嘉俊守正不挠，即拜司马，赐帛百匹。其附椿者，咸谴责焉。二年，出为左将军、梁州刺史。民俗荒犷，多为盗贼。俊乃令郡县立庠序，劝其耕桑，敦以礼让。数年之中，风俗顿革。梁遣其将
曹琰之镇魏兴，继日版筑。琰之屡扰疆场，边人患之。俊遣长史杜休道率兵攻克其城，并擒琰之。琰之即梁大将
曹景宗之季弟也。于是梁人惮焉。属魏室多故，州又僻远，梁人知无外援，遂遣大兵顿魏兴，志图攻取。俊抚励将士，人思效命。梁人知其得众心也，弗之敢逼。俊在州清苦，不治产业。秩满，其子等并徒步而还。吏人送俊，留连于道，久之乃得出界。
大统二年，东魏授俊洛州刺史，俊因此乃谋归阙。五年，将家及亲属四百余口入关，拜秘书监。时军国草创，坟典散逸，俊始选置令史，抄集经籍，四部群书，稍得周备。加镇东将军，封西安县男，邑二百户。十七年，除车骑大将军、仪同三司，加散骑常侍。俊以年老乞骸骨，太祖弗许。遂称疾笃，不复朝觐。魏恭帝三年，赐姓若口引氏。
孝闵帝践阼，进爵为子，增邑五百户。
武成元年，进骠骑大将军、
开府仪同三司，增邑并前二千户。俊年齿虽迈，而志识未衰，教授子孙，必先礼典。世宗尚儒重道，特钦赏之，数加恩锡，思与相见。俊不得已，乃入朝。世宗与同席而坐，因顾访洛阳故事。俊身长八尺，须鬓皓然，容止端详，音韵清朗。帝与之谈论，不觉屡为前膝。及俊辞还，帝亲执其手曰：“公年德俱尊，朕所钦尚，乞言之事，所望于公。宜数相见，以慰虚想。”以御舆令于帝前乘出。顾谓左右曰：“如此之事，唯积善者可以致之。何止见重于今，亦将传之万古。”时人咸以为荣。保定三年卒，时年八十。高祖叹惜之，赠本官，加冀定瀛三州诸军事、冀州刺史，谥曰元。
俊笃于仁义，期功之有孤者，衣食丰约，俱与之同。少为司徒
崔光所知，光命其子盛与俊结友。俊每造光，常清言移日。小宗伯卢辩以俊业行俱崇，待以师友之礼。每有闲暇，辄诣俊宴语弥日。恒谓人曰：“不见西安君，烦忧不遣。”其为通人所敬重如此。