中共山东分局党校是在中共
苏鲁豫皖边区省委党校的基础上创建的。1938年5月，
徐州失守，中共领导的抗日武装向苏鲁豫皖四省挺进，中共中央决定将
中共山东省委扩大为
苏鲁豫皖边区省委。为适应培训党员、干部的新形势的需要，这年10月，边区省委成立了党校。12月，边区省委改为中共中央山东分局，边区省委党校随之改为山东分局党校。党校创办后，在抗日战争的烽火中，根据中央、边区省委、山东分局的指示精神和建党建政、建立抗日人民武装、整风运动的需要，先后开办了短期训练班和整风学习班，训练党员干部2200余人，为培养抗日骨干力量，提高党员干部的思想政治觉悟和理论水平，做出了积极的贡献。
1938年10月，
苏鲁豫皖边区省委为适应党的事业发展和抗日战争的需要，决定建立边区省委党校，省委书记
郭洪涛兼任校长，派潘维舟、陈侠、孙鹏等3人进行筹建。由于党组织尚处于秘密状态，党校的公开名称是
山东抗日军政干部学校分校，简称干分校。
1938年12月，根据中央决定，
苏鲁豫皖边区省委改为
中共山东分局，党校也由边区省委党校改为山东分局党校，校址由白佛寺迁到沂水县朱位和夏蔚。
始终贯彻了“惩前毖后，治病救人”，“既要弄清思想，又要团结同志”的方针，充分发扬了民主，做到了知无不言，言无不尽，言者无罪，闻者足戒，学员大都能认真拿起批评和自我批评的武器，清算思想上主观主义、教条主义、宗派主义、党八股的影响。参加学习的学员在掌握、领会毛泽东思想，在坚持原则、分清是非、统一思想，在发扬实事求是、理论联系实际、密切联系群众和自我批评的作风等方面，都有很大进步，为走上新的工作岗位，迎接抗战的最后胜利，奠定了思想基础。