一开始帝国城市和自由城市是两个不同的概念，帝国城市是上面概述中所提到的直接受皇帝下辖的城市，而自由城市则本来是主教的驻地城市，这些城市在13世纪和14世纪从他们的主教的手中解放出来，名义上它们依然是主教的领地，向主教纳税和提供军队，但实际上它们不受它们的领主的命令了，同时它们也不向皇帝交税和提供军队。这些自由城市包括科隆、奥格斯堡、美因茨（到1462年）、沃尔姆斯、施派尔、斯特拉斯堡和巴塞尔。
帝国自由城市是神圣罗马帝国中的一种特别的城市，被称为帝国自由城市的城市不属于任何一个帝国贵族管辖，而直辖于
神圣罗马帝国皇帝。
帝国自由城市直接处于皇帝之下的地位给于他们许多自由和特权。向内它们基本上自主，拥有自己的低级和高级司法权，尤其它们的高级司法权（在神圣罗马帝国高级司法权是允许判处犯人流血，包括死刑的权力，因此高级司法权在神圣罗马帝国也被称为血司法权，一般只有帝国贵族和他们授权的代表才有这样的权力）使得他们拥有与高级贵族同样的地位，这也是它们与其它隶属于任何领主的城市的区别。
这些城市还有权和有义务直接派代表参加
帝国议会。同时他们对皇帝也有一定的义务，比如他们必须向皇帝交税，假如皇帝命令他们必须派兵。
后来一些这些自由城市能够完全摆脱它们的主教的管辖，而另一些则又丧失了它们的自由地位。这些自由城市与本来的帝国城市一起参加帝国议会，当时它们被统称为自由和帝国城市，后来被简化为帝国自由城市。
在从1254年到1273年的大空位时代结束时帝国城市在帝国议会中获得了席位和投票权。从1489年开始它们联合组成了帝国城市集团，它们从中选举代表去参加帝国议会。当时的皇帝为了借钱有时将他手中的帝国城市抵押给该城市附近的贵族。由于当时的皇帝很少有可能获得足够的钱来将这些城市赎回来，因此这些城市就面临着丧失它们的自由地位的危险。而另一些比较富有的城市比如
多特蒙德、
法兰克福和
纽伦堡则借机以向皇帝借钱的方式来扩大它们的地盘。尤其德国西南部的城市扩展得最厉害，因为它们附近没有大的，可以抵制它们的贵族。地盘最大的是伯尔尼。
1648年的威斯特伐利亚和约规定将阿尔萨斯的帝国城市的管理权交付法国，1681年法国将整个阿尔萨斯完全并入它的版图。并入法国的帝国城市的自由权越来越小，1789年
法国大革命中它们完全丧失了它们的特权。
留在神圣罗马帝国的51个帝国自由城市中有45个在1803年通过帝国议会的最后一次决议被其附近的领主们吞并。到1806年神圣罗马帝国告终时还有六个帝国自由城市：奥格斯堡、纽伦堡、法兰克福、不来梅、
汉堡和
吕贝克。
1815年后在德意志邦联只有四个自由城市了：汉堡、不来梅、吕贝克和法兰克福。1866年法兰克福被普鲁士吞并，1937年吕贝克也被并入普鲁士。
德意志联邦共和国成立后不来梅和汉堡作为
联邦州保存了它们的自由地位。
柏林的联邦州地位来于它在
第二次世界大战后被盟军占领的特殊历史过程。
神圣罗马帝国成立后帝国自由城市的数目有增有减，1521年沃尔姆斯帝国议会上列出了85个“自由和帝国城市”，可能是数目最大的时候。到1800年神圣罗马帝国还有以下51个帝国自由城市：