Если смотреть в историю, то Музей спорта был основан в 1957 году к открытию 6-ого Всемирного фестиваля Молодежи и студентов. Затем, в 1987 году на Постановлении Совета Министров СССР был полнят вопрос о расширении функционала музея (кроме выставочной деятельности музей начал вести книги поступления музейных предметов и передавать сведение в Министерство культуры), но в 1990-е годы учреждение фактически перестало существовать. 2001 году Государственный комитетом Российской Федерации по физической культуре и спорту было принято решение возродить Центральный музей физической культуры и спорта, наше учреждение было зарегистрировано как самостоятельное юридическое лицо (до этого музей входил в структуру Лужников).
Первая постоянно-действующая экспозиция Музея спорта открылась 6 мая 2010 года во втором строении на Казакова 18, строение 2.
Исторической предтечей создания ФГБУ «Государственный музей спорта» можно считать Институт физической культуры, открывшийся в 1918 году в одном из красивейших ансамблей Москвы - усадьбе Разумовских, по адресу Казакова, 18.