Театр был создан в 1934 году в Алмате на базе основанной за год до этого музыкальной студии. 13 января 1934 года состоялось первое представление. Была поставлена музыкальная комедия «Айман Шолпан» на либретто Мухтара Ауэзова. В нём прозвучали народные песни и кюи, обработанные Иваном Коцыком.

      Евгений Брусиловский стал первым композитором театра, положившим начало национальному оперному искусству Казахстана. Следующие спектакли были: «Кыз Жибек»(1934), «Жалбыр» (1935), «Ер Таргын»(1936).

      В 1935 году на базе Куйбышевского оперного театра была создана русская оперная труппа. Профессиональный коллектив за короткий срок (1936—37) осуществил постановки 9 спектаклей русской и мировой оперной классики. Это «Кармен», «Евгений Онегин», «Пиковая дама», «Демон», «Фауст», «Аида» и др.

      В 1938 году балет П. Чайковского «Лебединое озеро» положил начало созданию балетной труппы, тогда же был поставлен первый казахский балет «Калкаман и Мамыр» В. Великанова.

      В 1941 году театр получил статус академического и в 1941 году было закончено строительство нового здания театра, (архитекторы Н. А. Простаков, Т. Басенов), которое тогда явилось самым красивым и крупным сооружением Алматы. Первый спектакль в новом здании состоялся 7 ноября 1941 года.

      В 1945 году театру было присвоено имя Абая. Народный артист Казахской ССР Газиз Дугашев трижды был главным дирижёром театра (1950 — 1951), (1956 — 1958) и (1969 — 1971), в промежутках работал в Москве (Большой театр), Киеве (Украинский оперный театр) и Минске (Белорусский оперный театр).

      В 1970-тых годах известный дирижёр и постановщик, заслуженный деятель искусств Казахской ССР Валерий Руттер поставил на сцене ГАТОБ им. Абая 15 опер и балетов.