Музей открыт к 50-летию Победы в Великой Отечественной войне.
Здание музея имеет национальный колорит. Его конфигурация напоминает карту Мордовии, если смотреть с высоты. В центре – башенка в виде национального головного убора – кокошника, покрытая медными кругами, похожими на медали.
В музейных фондах содержатся более 40 000 единиц хранения, связанных с Великой Отечественной войной и Республикой Мордовия: оружие, документы, фотографии, награды и письма с фронта. В мемориальном музее также экспонируются картины и скульптуры, посвященные войне.
Музей разделен на 4 зала: «Огненные и фронтовые дороги» (основная экспозиция), «Преемственность поколений» (посвящен уроженцам Мордовии, принимавшим участие в боевых операциях 1946–2000-х годов), зал Славы (посвящен памяти фронтовиков и тружеников тыла), зал полководцев с панорамной витриной, демонстрирующей стрелковое оружие военного времени.
В структуру музея входит экспозиция под открытым небом артиллерии и бронетехники времен Великой Отечественной войны 1941–1945 гг. В 2001 г. в Саранске состоялось открытие филиала музея: свои двери открыл музей поэта, уроженца Мордовии А. И. Полежаева.
