在此之前，中央研究院历史语言研究所吴金鼎发现了城子崖遗址，引起重视并准备发掘。为协调与地方的关系，经中央研究院与山东省政府协商，合组该会负责山东地区的考古调查、发掘和研究工作。研究会的委员由双方分任。省方委员有杨振声、王献唐、刘次箫、张敦讷，院方委员有傅斯年、李济、董作宾、郭宝钧。傅斯年为该会委员长，李济为工作部主任，王献唐为秘书。工作费用由双方承担，必要时由院方单独承担。发掘所得古物存置研究会内，以便研究。该会的主要工作人员有梁思永、刘曜(尹达)、王湘、吴金鼎、祁延霈、刘锡增、牟祥农等。研究会进行的田野调查发掘工作主要有：1930年秋、1931年秋龙山镇城子崖遗址的两次发掘，首次发现以磨光黑陶为显著特征的新石器时代遗存，1934年发表了由李济、梁思永等编著《“城子崖”发掘报告》；1933年10月发掘滕县安上村原始社会和商周遗址，清理曹王汉墓群，又对山东西南部作考古调查，在临城等地发现龙山文化遗址；1934年春调查日照、诸城、五莲等东南沿海一带，发现九处龙山文化遗址；1936年春发掘日照两城镇龙山文化遗址。1937年
抗日战争爆发后，该会工作宣告结束。山东古迹研究会对现代考古学在山东的引进和发展，做了许多开创性的工作。