ХІХ ғасырдың 30-жылдары музей ісі қолға алынып, граф Сухтеленнің жарлығымен «Орынбор өлкесіндегі Музеум» ашылған болатын. Оның негізгі ұйымдастырушыларының бірі - «Ұлы орыс тілінің түсіндірме сөздігінің» авторы В.И.Даль. Ал Тарихи-өлкетану музейінің архитекторы - Г.Гопиус.
Алғашында бұл музей Ресей қарамағында болған. Кейін Қазақ АССР құрылғаннан кейін музейдегі жәдігерлердің 80 пайызы қайтарылып, сол кездегі астана Қызылордаға көшірілген, кейін Алматыға ауысқан. Ал 1944 жылы музейге қазіргі Қазақстанның Мемлекеттік Орталық музейі атауы берілген. Музейдің қазіргі ғимараты 1985 жылы Ю.Ратушный, З.Мұстафина және Б.Рзағалиевтардың жобалары бойынша салынған. Музейдің жалпы ауданы 20 мың шаршы метрді құрайды.
А.Байтұрсынов, Ә.Жиреншин, Ғ.Мұстафин, К.Бадыров, Ә.Марғұлан және музейді әр жылдары басқарған азаматтар музей қорын жинақтап, толықтыру жұмыстарын іске асыруға зор үлес қосқан.
