火药局胡同为明代火药局的所在地。明火药局并非制造火药和一般兵器的地方。据《日下旧闻考》记载：火药局，即兵仗局之军器库也。明时内府有十二监、四司、八局。兵仗局为八局之一。据《酌中志》记载：兵仗局有掌印太监一名主管，掌管造刀枪、剑戟、鞭斧、盔甲、弓矢等各种神器，以及宫中乞巧小针并御前铁锁、针剪之类。旧时每逢日食和月食，都要敲打铜铁器以救日月。宫中救日月所用的锣鼓响器、做法事的钟鼓等，也属兵仗局制造。当时兵仗局占地宽广。人清以后原局荒废，逐渐变成后来的一条大道和头条、二条、三条、四条、五条、六条分支。在火药局胡同旁有伽蓝寺，前殿祀关帝，后殿祀毗卢佛。有钟，上铸火药局字。清朝此地有镶黄旗侍卫校场。属皇城。1965年整顿地名时改称火药局胡同。“
文化大革命”时一度改称青春胡同，后恢复原名。199年挖防空洞时曾在此出土多种铁兵器。