在赫鲁晓夫当政时期，苏联各地兴建了一大批5层楼高的小户型简易住宅楼，久而久之就被人们戏称为“赫鲁晓夫楼”。

赫鲁晓夫在回忆录中提到，他和尼古拉·亚历山德罗维奇·布尔加宁早在20世纪30年代，即试图用大型装配式钢筋混凝土，把在大波利亚纳、莫斯科河南岸地区在建的一所中学装配出来。试验以失败告终，但在此以后，他一直关注这种建筑模式。1949年，赫鲁晓夫被调往莫斯科后，先是请求索科洛夫批准在莫斯科建两个试验性工厂，以便生产用于装配式住宅的预制板和其他钢筋混凝土零件的计划，遭到拒绝。他又去找钢筋混凝土专家伏谢沃洛德·米哈伊洛维奇·克尔德什，也一无所获。在此情况下，赫鲁晓夫寻求斯大林的支持，斯大林肯定了他的方案。

随着两家装配式钢筋混凝土工厂的投入生产，莫斯科开始了一场房屋建设技术革命，诞生了生产普及型、价格适中的住宅工艺。然而，这种装配式房屋初期问题不断。比如，预制板之间，尤其是房屋的角落处，经常出现缝隙。这些缝隙都是用水泥抹上，用专用的胶粘剂粘补。可是水泥脱落，胶粘剂夏季遇热熔化，从而导致住宅有缝隙，漏风漏水。随着房屋修得越来越好，隔音差的问题又出现了。

1954年，装配式房屋建筑的主要技术问题已经解决。莫斯科的工厂分三班倒，在流水线上制造楼房的墙壁、楼层板和内部隔板，统一的全莫斯科运输企业的预制板运输车将它们运到各建筑工地。逐步掌握苏共大权的赫鲁晓夫也开始在全国推广其建筑模式。12月1日，莫斯科召开全苏建筑工作者会议，赫鲁晓夫在会上要求着手进行大规模住宅建设。他建议数百个部属的和其他建筑与交通事务所联合成为一个拥有最新设备的建筑安装部门，而它内部的一切也都实行专业化，建成类似工厂中传送带的工艺链。

1955年，苏共中央和苏联部长会议专门就此下发了文件，要求在住宅设计和建设中力行节约，杜绝铺张浪费。正是根据这份对后来一段时期苏联的住宅建设风格产生很大影响的文件，全国开始兴建千篇一律的5层标准小户型住宅楼。当时，苏共中央还特别要求：“加快住宅建设的工程进度，以确保1980年每户家庭都能在属于自己的住宅里迎接共产主义的到来”。

为了降低施工成本和保证工期，住宅楼大部分采用预制板结构，没有电梯和垃圾通道，取消了斯大林时期盛行的拱门和柱廊等装饰，并严格控制厨房、卫生间、门厅和过道的面积。据说，赫鲁晓夫本人当时对小卫生间设计非常得意，他曾炫耀说，只要能容得下我，其他人就都不会有问题。

与斯大林时期彰显民族风格的建筑相比，不加任何装饰的“赫鲁晓夫楼”虽说其貌不扬，但功能比较到位，辅助设施也相对齐全。客观地说，在当时的社会条件下，“赫鲁晓夫楼”在较短时间内改善了全国居民的住房条件。尽管“20年内建成共产主义”的宏伟目标没能实现，但此项“居者有其屋”之举解决了政府面临的一大社会难题。

20世纪五六十年代，是苏联“赫鲁晓夫楼”大兴土木的高潮时期。1958年，首个实验住宅区在莫斯科南郊的切廖姆什基村开工。该项目采用住宅设计竞赛的优胜方案，3种主力户型分别为30平方米的一居室、44平方米的两居室，以及60平方米的三居室，成为此后在苏联广泛应用的样板式住宅。为照顾苏联人民的”审美情趣“，赫鲁晓夫下令在楼与楼之间装点绿植、人造山丘和池塘。

1961年，苏联的城市人口首次超过了农村人口，达到1.27亿。到1964年赫鲁晓夫下台时，近四分之一（约5400万）的苏联人住进了新居。1967年，一位美国国家标准局官员表示，”苏联人想发明世界上大规模廉价住宅建设模式，他们所做的一切让人吃惊。“

随着社会的发展和人们对“舒适生活”的理解发生变化，当年急功近利建造的“赫鲁晓夫楼”越来越暴露出明显弊端，加上年久失修、功能退化，已经难以适应现代生活的基本需求，因而成为各地政府部门和居民的“心头之患”。建筑专家们认为，除了少数当年建造的5层砖结构楼的质量好一些以外，其余预制板结构的“赫鲁晓夫楼”大都到了需要拆除或是彻底改造的时候。

1996年，时任莫斯科市长卢日科夫就开始着手拆除赫鲁晓夫楼。此后20年里，拆迁工作断断续续。2017年初，莫斯科市长谢尔盖·索比亚宁再次将拆迁计划作为一个重点市政项目提出，并获得了总统普京的支持。

2007年11月，普京在军队高级将领会议上的讲话中提出：“请研究一下改变住房建筑标准的问题，首先是民居，给军队的住房，从远东开始。我想提醒你们注意，我想让这件事快点办好，要和俄罗斯军官尊严相称，不要让我们的人继续住在那些令人恶心的赫鲁晓夫楼里。”

2010年，曾在赫鲁晓夫楼长大的俄罗斯总理梅德韦杰夫在与大学生座谈时说，虽然赫鲁晓夫楼不好，面积又小，但应给予赫鲁晓夫和他当时的决定应有的评价。在20世纪50年代末60年代初，”我们国家的大部分居民搬进了这种楼房内，虽说居室窄小，舒适度低，但毕竟有了属于个人的、自己的房子。“