北京市第二十八中学的前身是北京艺文学校，是著名教育家，革命先驱
高仁山先生在1925年联合著名大学从事教育的工作者创办的，高仁山为首任校长。
1951年，艺文学校更名为北京市私立艺文中学。1952年，艺文中学由国家接管，命名为北京市第二十八中学。1962年，北京市副市长吴晗在市教育局长韩作黎陪同下到二十八中视察，学校确定为吴晗副市长试点学校，并增大量图书给全校师生。1962—1966期间，北京二十八中由于学校管理科学，教师队伍水平较高，连续几年高考成绩显著提高，受到市教育局的表扬和重视。
在此后的各个发展时期中，学校一方面继承发扬了过去的治学传统和良好的校风、学风，一方面又在原有的基础上，不断完善、创新，形成了有自己特色的全日制中学。学校建立了科学化、规范化、制度化的德育教育体系，努力使“爱祖国、爱集体、勤奋学习、遵纪守法、最求高尚的道德情操成为学生的自觉行为”，在校内形成了良好的学习秩序和学习风气，建立起有利于学生身心发展的良好环境和氛围。在教学方面，不仅引导学生要学会知识，更注重培养学生会学知识；不仅强调学生要有良好的学习习惯，更要有科学的学习方法。多年来学生的学习基础扎实、能力较强、分化较小、成绩提高显著。
学校拥有一只以爱国志士梅贻瑞先生、著名物理学家于光远、特级教师陈毓秀老师为代表的优秀教师团队，70余年来为国家培养了大批合格毕业生。人民艺术家、革命烈士王大化（又名端木炎），原北京市市委副书记刘仁，原北京市政法委书记黎光、原中日友好协会会长张香山，全国人大常委会副委员长张榕明、法学界泰斗江平，著名军旅作家苏策都曾在校就读。