1938年7月，贺龙率领的八路军120师调出一部分官兵，奉毛泽东“在平绥路以北沿大青山脉建立游击根据地甚关重要”的指示，由李井泉、姚喆带队，穿过敌人的重重封锁，来到大青山一带，与这支抗日游击队会师了。

1937年秋天，日本帝国主义把魔爪伸到了内蒙古。不久，内蒙古很多地方相继沦陷，老百姓家破人亡，国民党不战而退。面对这种情况，根据党的指示，共产党员杨植林、贾力更、高风英、刘洪雄等组织当地一些爱国青年，成立了一支抗日游击队。当时游击队的力量很薄弱，仗打得十分艰苦。

正值游击队面临困难之际，1938年7月，贺龙率领的八路军120师调出一部分官兵，奉毛泽东“在平绥路以北沿大青山脉建立游击根据地甚关重要”的指示，由李井泉、姚喆带队，穿过敌人的重重封锁，来到大青山一带，与这支抗日游击队会师了。会师这天，热闹得像过节一样，八路军把游击队员们高高地抬起来，抛过头顶，比久别重逢的亲人还要亲热。此后，正式组建成了大青山支队，并在大青山建立了抗日根据地。

战士们对老百姓秋毫无犯，并向群众耐心讲解党的抗日救国主张。不久，队伍接连在陶林城、乌兰花、武川一带袭击日寇，打了许多胜仗。

归绥到武川之间，有个蜈蚣坝。公路通过此处，两侧是悬崖陡壁，地势十分险要。支队二营营长唐金龙带领三个连秘密地埋伏在蜈坝上，逼迫伪警察所长打电话向日军提供假情报，然后拆毁了电话线，破坏了公路桥，并巧妙地伪装起来。很快，四辆满载鬼子的汽车接踵而来，第一辆开到桥上，一头栽了下去。后面的敌人进退无路，方知中计，顿时乱作一团。我全体指战员居高临下，一阵扫射，一举全歼了敌军。

神兵天降。人民群众到处传颂“共产党派来了神兵！”有的群众还在家里立起了八路军神位。大青山支队很快在群众中扎下了根。

冬季，寒风刺骨，大雪封山。战士们常在没膝的雪地里行军，冻坏了双脚，速度很慢。而伪蒙军、土匪全是骑兵，日寇又有汽车。为了适应战斗需要，大青山支队很快改建为骑兵支队。从此，部队如虎添翼，强有力地打击了敌人。据统计，从1938年9月到1940年6月，共毙伤日伪军560人，毙伤伪蒙军299人，缴获枪支596支，子弹40000发，战马802匹，骆驼70峰，电台两部。