《河南大学校歌》诞生于1940年，由
嵇文甫先生作词，
陈梓北先生谱曲。当时中华大地正遭受日寇侵略者的铁蹄践踏。始建于1912年的
河南大学辗转搬迁，经
鸡公山、南阳镇平，最后停留在
伏牛山深处的嵩县潭头镇办学达5年之久。具有强烈
爱国主义精神的河大师生在
中华民国国民政府的领导下开展了多种形式的抗日救亡运动。儒家经典四书五经之一《礼记》的第四十二篇《大学》中有语，大学之道，在明明德，在亲民，在止于至善。河大校歌亦反映出一直以来河大师生们所遵从的校训，即“明德 新民 止于至善”。
时任文学院院长的嵇文甫先生激情奔放地创作了《献给祖国》、《走出象牙之塔》等抗战歌曲。教育系教授陈梓北长于作曲，曾为《纪念鲁迅歌》、《远征进行曲》、《七七中学校歌》等谱曲，编有《抗战歌曲选》。
在抗战最艰苦的时刻，河南大学决定创作《河南大学校歌》，利用歌曲的形式，通过广大师生传唱，在阴霾的天空和血腥的环境中树起河南大学的猎猎战旗，以凝聚师生，鼓舞抗战斗志，弘扬学术传统，坚持办学不辍。嵇文甫、陈梓北受领重任，很快两人合作的《河南大学校歌》便响彻在伏牛山麓，伊水河畔。
2002年9月20日，河南大学迎来建校90周年校庆，中央电视台《
同一首歌》走进河南大学，歌唱家
杨洪基领唱《河南大学校歌》，展现了全体河大人爱校强校的光荣传统与梦想；同时，河南大学决定恢复使用1940年的《河南大学校歌》。《河南大学校歌》重新在师生中广为传唱，成为新时期河大人“继往开来”，再创辉煌的战斗号角。
2004年3月，
教育部部长周济同志来到河南大学视察工作，当听了河大党政领导齐声高歌的《河南大学校歌》后，为校歌雄浑激昂的旋律所表达出的奋发向上的河大精神而深深感动。
2012年9月，河南大学举行盛大的百年校庆晚会，在回顾
国立河南大学学子可歌可泣的保卫文化征程之后，合唱团高声合唱河大校歌，在场者无不动容。