骆牙十二岁时，同族中有会看相的人，说“这个少年容貌不同平常，必将才能大成”。梁朝太清末年，
陈蒨曾经避难到临安，骆牙的母亲陵氏，见了陈蒨仪表，知道陈蒨并非寻常人，以宾客之礼相对待陈蒨非常优厚。等到陈蒨任吴兴太守，就任命骆牙为将帅，因而随从平定
杜龛、
张彪等，骆牙每次战斗总是冲锋陷阵，勇猛位于诸军首位，因功授直阁将军。太平二年，骆牙因为母亲逝世而去职。陈蒨镇守会稽时，起用骆牙为山阴县令。永定三年，任命骆牙为安东府中兵参军，前往镇守冶城。接着随从陈蒨抗拒
王琳于南皖。陈蒨即位是为陈文帝，任命骆牙为假节、威虏将军、员外散骑常侍，封常安县侯，食邑五百户。不久骆牙又任临安县令，升任越州刺史，其余职务依旧担任。
太建三年，骆牙因平定
周迪的功绩，升任冠军将军、临川内史。同年，骆牙被任命为安远将军、衡阳内史，未就任，调任桂阳太守。太建八年，骆牙回到朝廷，升任散骑常侍，进入宫殿中的官署办公。太建十年，骆牙被任命为丰州刺史，其余职务都依旧担任。至德二年骆牙去世，时年五十七岁。朝廷赠骆牙安远将军、广州刺史的官衔。儿子骆义继承。