В годы гонений Знаменский храм разделил судьбу всей Русской Православной Церкви. Вера и христианские традиции искоренялись, многие храмы были взорваны и уничтожены. Но храм Знамения Пресвятой Богородицы за Петровскими воротами чудом сохранился. Земельные владения, на которых находились богадельня, дом притча и несколько доходных домов, были национализированы. Богоборческая власть изъяла всё церковное имущество: редкие богослужебные книги XVII - XVIII веков, старинную церковную утварь, богослужебные сосуды, бесценные иконы с частицами мощей и другие святыни. 16 января 1932 года постановлением Президиума Мособлисполкома храм Знамения Пресвятой Богородицы был закрыт "в связи с острой необходимостью в помещении" под архив Управления Московской милиции. Такое небрежение к московской святыне могло случиться только в советское время Правда следует отметить, что использование здания храма Московской милицией не нарушило внутреннее пространство и сохранило в целостности его уникальный внешний вид.
В 1950-х годах здание храма было передано Институту химической физики Академии наук СССР. Здесь, в закрытых цехах и лабораториях, трудились десятки научных сотрудников, изготовляя и испытывая силикатный кирпич, кирпич будущего. Вся эта деятельность привела к тому, что церковная колокольня наклонилась и оказалась в аварийном состоянии, а на фасадах появились множественные трещины.
В 60-х годах снаружи храм частично отреставрировали, но внутри он был капитально перестроен. Разделенный железобетонными перекрытиями на три этажа и под самый купол заполненный сплетениями проводов, силовых кабелей, трансформаторами, испытательными стендами, аппаратурой химического анализа, храм полностью утратил внутренний интерьер. Многотонные токарные и фрезерные станки, прессы заняли придел Преподобного Сергия Радонежского, муфельные печи - придел Всех Святых. В Знаменском приделе находились испытательные лаборатории, здесь же хранились огромные емкости с химическими реактивами и растворами. Алтари были отведены под кабинеты руководства и туалет.
В 1991 году была предпринята попытка передать Знаменскую церковь Русской Православной Церкви. Однако этот процесс затянулся на три долгих года. В 1994 году приход был возрожден, а в 1995 году приходу было передано бывшее здание храма. Открылась новая страница в истории Знаменской церкви, началось ее «восстание из небытия».
В новейшей летописи церковной жизни зафиксировано много чудесных совпадений. Например, 8 декабря 1995 года, в день памяти священномученика Климента, чей придел был первым в храме, началось массовое отселение институтских сотрудников и вывоз их оборудования. Хотя буквально накануне у арендаторов для этого не было ни сил, ни средств, ни площадей. В процессе освобождения храма участвовали и церковная община, и сотрудники милиции. Но они при всем желании никак не могли повлиять на скорость процесса. Тем не менее, последний сотрудник института - вахтер - покинул здание храма 18 июля 1996 года, в день преподобного Сергия Радонежского, которому посвящен бывший Климентовский придел.
С этого момента начали разбирать институтские стены и межэтажные перекрытия, демонтировать металлические конструкции и оставшееся оборудование, вывозить мусор и т.д. ГУВД взяло на себя организацию практически всей помощи храму: от предоставления рабочей силы и транспорта, и участия в оформлении многочисленной документации до поиска спонсоров для проведения дорогостоящих технических и строительных работ.
Много находок и открытий было сделано в это время. Самый яркий пример - осколки мраморной плиты в память сотрудников жандармерии, погибших в 1905 - 1906 годах. Теперь их имена занесены в синодик храма и поминаются за каждой Божественной литургией. А нынешнее руководство милиции занесло их имена на Доску памяти, у которой проходят панихиды о погибших сотрудниках.
Еще одна из находок - доска в «печуре» Знаменского алтаря. Она выстругана только с помощью топора и заложена в алтарную стену в самом начале строительства. Пока до этой доски можно дотронуться и зримо ощутить связь времен.
Настоящим открытием стало обнаружение уникальной живописи на стенах храма. Это случилось при разборке межэтажных перекрытий, и росписи возникли неожиданно, сразу в нескольких местах, как будто самостоятельно.
Через год межэтажные перекрытия и стены были разобраны, и храм предстал в прежнем внутреннем объеме. Несмотря на крайне плачевное состояние, этот вид радовал всех. Теперь возможность возрождения церкви казалась как никогда реальной. Ко дню Знамения Пресвятой Богородицы был отремонтирован придел Всех Святых, где 10 декабря 1997 года состоялась первая Божественная литургия. К освящению была отреставрирована икона Божией Матери «Знамение», подарена огромная икона Всех Святых и написана икона святых благоверных князей Петра и Февронии, покровителей семьи. Позже появились и другие иконы, старинные и современные.
Заботой о стрелецком храме и верности традиционным ценностям было продиктовано обращение начальника московской милиции Владимира Васильевича Пронина к Святейшему Патриарху Московскому и всея Руси Алексию о придании Знаменскому храму статуса гарнизонного храма. Так историческая взаимосвязь Церкви и Воинства была закреплена юридически. «Принимая во внимание историческую преемственность бывшего воинского, полкового храма Знамения иконы Божией Матери за Петровскими воротами в бывшей Стрелецкой слободе г. Москвы: считаем целесообразным придать данному храму статус храма при Главном управлении внутренних дел г. Москвы, с поручением при этом настоятелю храма забот по духовному окормлению сотрудников ГУВД, и тем самым возрождению исторической взаимосвязи воинства и Церкви», - сказано в Указе Святейшего Патриарха от 25 ноября 2002 года.
С этого времени началась реализация Программы по восстановлению Знаменской церкви как гарнизонного храма при ГУВД за счет средств благотворителей и жертвователей. Для реконструкции были привлечены лучшие специалисты из ведущих реставрационных организаций Министерства культуры - ВПНРК, Общества Охраны памятников. Несмотря на сложные времена, несколько строительных фирм успешно принимают участие в восстановлении Знаменского храма. Городские власти также оказывают помощь в восстановлении православной святыни.