赵犨出身将门，祖辈为忠武军牙将，赵犨自幼有智谋，小时候与邻里小儿在道路上玩耍时，便排兵布阵，自为元帅，指挥有度，小儿们多听其号令，没有敢乱走的。其父见到后，很是高兴，说：“吾家千里驹也，必大吾门矣！”成年后，赵犨博学多识，好功名，精于弓马，性格勇敢果断，郡守闻之，擢升他为牙校。
会昌年间，昭义节度使
刘稹作乱，赵犨随父出征，参与了收复天井关的战役，不久之后，又跟随征讨蛮族，转战溪洞一个月才攻克，斩获甚众，赵犨因功受封为忠武军马步都虞侯。
乾符年间，
王仙芝率领民众在曹、濮二州起义，南攻汝、郑等州，赵犨奉命率步骑兵数千人袭之，王仙芝南奔。
黄巢攻陷长安后，
唐僖宗逃奔蜀中，中原无主，人心骚动，陈州人数百向许州主帅要求赵犨来当陈州刺史，许州主帅上奏朝廷得到朝廷同意，朝廷于是授赵犨为陈州刺史。赵犨上任后，对将士们说黄巢必然进犯陈州，于是赵犨积极在陈州整修城墙，疏浚沟洫，屯积粮食和柴薪，同时加强军队训练，招募四方劲勇之士，修缮兵甲，任命弟
赵昶为防遏都指挥使，以另一个弟弟
赵珝为亲从都知兵马使，与两个儿子分领精兵，时刻防备起义军进攻。
黄巢退出长安后，果然率军东攻陈州，以骁将
孟楷率精兵万人为先锋，直扑项县，赵犨率军突击，贼军大败，全军覆没，
孟楷被擒获。
中和三年，朝廷听说了赵犨的功绩，加封其为检校兵部尚书、右仆射。不多久又加司空、颖川县伯。
黄巢闻孟楷失败，大怒，率领大军来攻陈州，先据
溵水，然后与蔡州秦宗权合兵进攻宛丘，州人都惊惧，赵犨鼓励将士，开门与贼军交战，每战皆捷。黄巢大怒，在陈州北三四里处扎营，开始围攻，赵犨全力抵御，历时三百余天，大小数百战，虽兵食将尽，但人心益固。赵犨遣使求救于宣武军节度使
朱全忠。中和四年，朱全忠率大军来到陈州北，赵犨闻讯全力出击，双方合攻
黄巢大营，起义军大败，重围遂解。
中和五年八月，赵犨任蔡州节度使。当时黄巢已经败亡，但秦宗权势力还很强盛。赵犨虽兵少力微，但每日迎战，
秦宗权没法让他屈服。
文德元年，
秦宗权之乱平定，赵犨因功加检校司徒，授浙西
节度使。
龙纪元年三月，又以平黄巢、
秦宗权之功，加
同平章事，充忠武军节度使，仍在陈州理政。战争结束，皇帝回归长安。中原地区承大乱之后，民不聊生，赵犨招纳陈、许二州的流亡之民，恢复旧业，人皆感之。赵犨三兄弟非常和睦，赵犨知道二弟
赵昶也有心匡扶唐室，和自己一起立过军功，于是下令把政事都托付给赵昶，然后上表朝廷请求退休。后数月，赵犨病逝于陈州官舍，时年六十六岁，葬于宛丘县之先域。朝廷追赠他太尉封号。
赵犨虽尽忠唐室，保全陈州，但与朱温结识并知道朱温有雄才，每次都把自己倾心寄托于朱温，同时为了自己的子孙后代筹谋，在战争结束后，和朱温结成亲家。赵犨又请为朱温立生祠于陈州，日夜参拜瞻仰。数年之中，尽全力资助朱温，朱温每有征调军需与补给的，赵犨都率先供奉，所以赵犨能保其功名。