Строительство дома началось в 1908 году. Сам Хованов дом не достроил – упал с лесов и разбился. Завершал работу его сын Геннадий, но у него , видимо, не было папиной предпринимательской жилки, и дом вскоре был продан. В 1916 году дом выкупило товарищество «Лаптев и Минаев» и подарило его городу для обустройства приюта для детей сирот, отцы которых погибли в первой мировой войне. Но дом ждала совсем другая участь. После революции он был национализирован, и началась у него одна из самых черных страниц в истории России.
В доме поэтапно располагалось ВЧК, ГПУ, НКВД, МГБ и наконец, ФСБ.