Раньше на месте музея ВОВ находилась Кассандаловская башня, которую взорвали отступающие войска Наполеона в ноябре 1812 года, затем — здание третьего городского начального училища. Его открыли здесь к 100-летию Отечественной войны 1812 года: это здание представляет собой образец неорусского стиля и стилизовано под башни крепостной стены с имитацией бойниц и зубцами. В годы Великой Отечественной войны здание почти стёрли с лица земли, восстанавливали его уже студенты фабрично-заводских училищ и бригады пленных немцев, поэтому уже в 1945 году восстановление было завершено и здание начало функционировать. В 1973 году в здании открылся музей Великой Отечественной войны.

Сегодня музей является одним из самых посещаемых музеев Смоленска: в нём посетители могут могут посмотреть подлинные фотографии и документы с самого начала ВОВ, а также со времён оккупации Смоленщины, партизанского движения и до самого освобождения Смоленской области.

В экспозиции собраны также уникальные образцы стрелкового оружия Красной Армии и гитлеровской Германии; ордена, медали, личные вещи участников боев за Смоленск, Ельню, Вязьму; маршала Советского Союза С. К. Тимошенко, генералов М. Ф. Лукина и И. Н. Руссиянова; военная форма и награды французских летчиков легендарного полка «Нормандия-Неман»; боевые знамена воинских частей и соединений, получивших почетное наименование «Смоленских»; трофеи поверженной фашистской Германии.

Экспозиция музея, как и многих исторических хранилищ региона, пополняется и меняет практики взаимодействия с аудиторией (об этом свидетельствуют и новые экскурсии, которые появляются в музее).