抗日战争初期由唐柯三、达浦生、孙绳武等回族知名人士倡导，融合各地原有的自发建立的伊斯兰教团体，如“回教促进会”“回教俱进会”“回教公会”等而成立。

初期称“中国回教救国协会”，全国设有总会，各省、市设分会，县级支会；回民聚居较多的地方，还以寺坊为单位设立坊会。“回教救国协会”的主要宗旨是组织训练回民，把回民动员起来，有钱的出钱，有力的出力，积极参加到抗日救国的行列中。抗日战争胜利后，改为“中国回教协会”。其纲领为：阐扬回教文化；提高回民教育；加强回民团结；发扬爱国精神；改进经堂教学；消除教派争议。当时由国民党回族将领白祟禧担任该协会的理事长。1949年随国民党政权迁到台湾，现仍在开展活动。

中国回教协会1938年成立于武昌，由白崇禧担任会长，次年改称理事长。1955年白崇禧辞去理事长一职。