Музей основан в 1920 году и является одним из старейших учреждений республики. Он расположен в уникальном здании, возведенном в 1904 году, представляющее собой образец классической архитектуры начала ХХ века.

Изначально он значился как музей наглядных пособий при уездном отделе народного образования, и основу фонда составило около 130 экспонатов.

Из года в год музей пополняя фонды, в 2000 году получил статус областного историко-краеведческого музея. Сейчас коллекция музея насчитывает более 80000 экспонатов. Основной фонд музея представлен в нескольких залах: зал «Абылай хан», «Древняя история и средневековье», «История Акмолинского края в XIX веке», «История Акмолинской области в XX веке», «Зал истории современного Казахстана» «Елбасы және Тәуелсіздік» и «Окно в природу». В состав музея входят 7 районных музеев: Атбасарский историко-краеведческий музей, Литературный музей И. Есенберлина, Мариновский историко-краеведческий музей, Ерейментауский историко-краеведческий музей, Степногорский историко-краеведческий музей, Щучинский историко-краеведческий музей и Музей истории п. Бурабай.

Акмолинский областной историко-краеведческий музей является важнейшим научным и культурным центром региона.