清朝后期,在观音寺(今大栅栏西街)南侧小胡同里,有个李姓纱帽作坊,其制作的各式纱帽材料好做工细,在本行业中声誉很好。因之,人们称其作坊为“李纱帽作坊”,称他居住的小胡同为小李纱帽胡同。后来,李记纱帽作坊虽然不存在了,但小李纱帽胡同的地名却被留传下来。1965年改为今名。
解放前此处曾是妓院聚集地之一。它和留守卫(今青风巷)、王广福斜街(今棕树斜街)、朱茅胡同、百顺胡同、韩家潭(韩家胡同)、石头胡同、陕西巷等合称“八大胡同”。据《
北京封闭妓院纪实》统计,解放初期封闭妓院时,这一带有头等妓院四十五家,妓女三百二十八人,多居于韩家潭、百顺胡同;二等妓院六十家,妓女五百二十八人,多住在石头胡同、朱茅胡同。
清光绪年间刊印的《
京师坊巷志稿》记为“大李纱帽胡同”。这条街当年与小李纱帽胡同一样,纱帽作坊多。因大李纱帽胡同比小李纱帽胡同宽大,所以称大。1965年改今名。