Изначально на месте церкви стояла Фроловская башня — она была проездной, с воротами. В нише ней находился образ Божией Матери «Одигитрии», который прислал сам Борис Годунов.

В 18 веке башню разобрали из-за того, что она сильно обветшала. В 1727 году над воротами крепостной стены поставлен и в 1728 году освящен епископом Гедеоном (Вишневским), деревянный храм в честь Рождества Пресвятой Богородицы. Туда и перенесли икону. Затем на месте деревянного возвели каменный храм, устроив там сразу два престола: южный — во имя Всемилостивейшего Спаса, северный в честь Смоленской иконы Божией Матери.

Сама икона с августа по ноябрь во время Отечественной войны 1812 года была у армии — ей молились воины вместе с Кутузовым накануне Бородинской битвы. Несмотря на то, что храм сильно пострадал от французского нашествия, его восстановили в 1814 году, а в 1909 году открыли публичную библиотеку и читальню внутри. В советский период храм несколько десятилетий использовался под учреждения культуры.

В 1992 году в храме разместили начальные классы Православной гимназии — в ней уже и устроили храм в честь Смоленской иконы Божией Матери «Одигитрии», который затем был освящён митрополитом Смоленским и Калининградским Кириллом, ныне Святейшим Патриархом Московским и всея Руси.

Масштабных изменений в учреждении не предвидится — здесь так же продолжат обучать юных христиан, а также проводить богослужения для верующих.