Музей образован в 1976 г. на базе коллекции Казахской государственной художественной галереи им. Т.Г. Шевченко (образована в 1935 г.) и Республиканского музея прикладного искусства (образован в 1970 г.). В январе 1984 г. музею было присвоено имя Народного художника Казахской ССР Абылхана Кастеева (1904—1973). В настоящее время ГМИРКАК является крупнейшим художественным музеем Казахстана и ведущим научно-исследовательским и культурно-просветительским центром в области изобразительного искусства. В музее 9 научных центров: изобразительного искусства Казахстана, прикладного искусства Казахстана, классического зарубежного искусства, зарубежного искусства нового времени, фондов, реставрации, выставок и экспозиции, экскурсионного обслуживания и пропаганды, информации и издательской работы. Сегодня по своему высокому художественному уровню коллекция музея не уступает многим мировым собраниям.