黄河故道在河南商丘境内有南北两段，南段为金朝末年金哀宗时期至明朝弘治时期的黄河古道；北段为明朝弘治时期至清朝咸丰时期的黄河古道。

金朝天兴二年（公元1232年）十二月，金国即将灭亡时，金哀宗由汴京迁都归德府（今河南商丘），蒙古军久攻归德府不下，在今商丘西北处人为决黄河，河水夺濉水入泗水。

明朝初年黄河的下游河段流经河南的荥泽、原武、开封，根据史书记载“自商丘、虞城而下，由丁家道口抵韩家道口、赵家圈、石将军庙、两河口，出小浮桥下二洪”，然和在经过宿迁向南流入了淮河。

明朝景泰六年（1455年）七月，由于在沙湾将黄河水堵塞，黄河主流复回开封府以北，沿归德府（今商丘）、徐州一路旧道，经邳州、宿迁、淮阴入淮河。

明朝弘治二年（1489年）以后，白昂、刘大夏采取“北岸筑堤，南岸分流”的方策，一再疏浚孙家渡旧河，从而舒缓了下流水势。

嘉靖二十三年（1544年），由于黄河南岸的故道被全被堵塞，这样黄河水便全部的从徐、郊流出，侵入了淮河和泗水进海。

明朝隆庆六年（1572年），潘季驯治河以后，黄河南岸的河堤加固，断绝了黄河向南决口的危险，从而使黄河的河道变得比较稳固。此后，黄河归为一条河道，由开封府、兰阳县、归德府、虞城县，下徐州、邳州入淮河，一直维持了280余年。此河道又被称为“明清黄河故道”。

历经金、元、明和清代前中期，黄河夺淮河入海已有五、六百年之久，下游河道严重淤积，河床已显着抬高。元明清三代都极力挽河趋向东南，从黄海入口，决口泛滥就多在今豫东、鲁西南和苏北、皖北，使这里的地形普遍淤高。

在1855年前，黄河主要是在南面摆动，虽然时有北冲，但均被人力强行逼堵南流，南流夺淮入海期间，郑州以下，清口以上的黄河主流也是迁徙不定。由泗水，或汴水或涡水入淮，或由颍水入淮，或同时分几支入淮。

清朝咸丰五年（公元1855年）以前黄河的流经路线是：大体上经过现在河南的荥阳、郑州、原阳、延津、封丘、中牟、开封、兰考、民权、商丘、虞城；安徽的砀山、萧县；江苏的丰县、沛县、徐州、邳州、睢宁、宿迁、泗阳县、淮安、涟水、阜宁、滨海等入黄海。

清咸丰五年六月十九日（1855年8月1日），河南省开封府兰阳县北岸的铜瓦厢三堡下无工堤段溃决，到二十日全河全部决堤。铜瓦厢决口后，肆意的黄河水折向东北，至长垣县分而为三，一由赵王河东注，一经东明县之北，一经东明县之南，三河至张秋穿过了运河，流入了山东境内的大清河，注入渤海。当时清廷忙于镇压太平军，根本就没有时间来治理黄河，文宗谕示：“现值军务未平，饷糈不继，一时断难兴筑，……所有兰阳漫口，即可暂行缓堵”。黄河自此改道东北经今长垣、濮阳、范县、台前入山东，夺山东大清河由利津入海。结束了黄河趋向东南、夺淮河入海的历史。