Историко-краеведческий музей «Крепость» был открыт 9 мая 1965 года, Это место — начало истории города Кисловодска. Музей расположен в самой старой части города, где 13 июня 1803 года заложили Крепость. Создавал современный облик кисловодской крепости английский архитектор Самуил Уптон.
Кисловодская крепость — единственное военное укрепление, которое сохранилось на территории Северного Кавказа с середины 19 века в таком объеме. Сооружение входило в масштабную оборонительную линию, которая тянулась от реки Терек до Нижнего Дона.
Сегодня внутри расположен историко-краеведческий музей.
Общая музейная площадь зданий Кисловодской крепости составляет 675 кв. м. и включает четыре постоянные экспозиции:
1) Летопись земли кисловодской. Экспозиция в первом зале повествует историю местных земель, начиная с 3 тысячелетия до нашей эры. Выставка затрагивает и более современные периоды — становление Кисловодска русской крепостью и курортом.
2) Кисловодск — город славы и милосердия. Выставка во втором зале рассказывает о судьбе города и его жителей во времена Великой Отечественной войны.
3) Природные богатства Кисловодска Третий зал музея знакомит посетителей с природным прошлым региона, когда район Кавказских Минеральных Вод был скрыт водами гигантского океана Тетис. Экспозиция состоит из окаменелых останков океанических обитателей: моллюсков, головоногих, морских ежей и гигантских улиток. В более поздний период, в меловой период (около 100 млн. лет назад).
4) Государственная символика России: история и традиции. Прогуливаясь по четвертому залу музея можно увидеть, как менялась символика России и Ставрополья с XVIII века.
У входа в музей под открытым небом, выставлена военная техника, стоят колоритные каменные изваяния и даже образец первой нарзанной купели. Перед зданием музея был установлен памятный знак – каменная глыба из доломита, с надписью об основании Кисловодска 13 (25) июня 1803 года.