Создан в 1928 году. Организатором и первым художественным руководителем был выдающийся мастер хорового искусства А. В. Свешников. В разное время хором руководили такие музыканты, как Н. С. Голованов, И. М. Кувыкин, К. Б. Птица, Л. В. Ермакова.

В 2005 году в Академический большой хор, получивший название «Мастера хорового пения», на должность художественного руководителя был приглашён народный артист России, профессор Лев Конторович.

За 95 лет хор исполнил более 15 тыс. произведений: опер, ораторий, кантат русских и зарубежных композиторов, произведений a cappella, народных песен, духовной музыки. Многие из них составили золотой фонд отечественной звукозаписи, получили признание за рубежом.

В исполнении хора впервые прозвучали многие произведения Прокофьева, Шостаковича, Щедрина, Хачатуряна, Тактакишвили, Агафонникова, Евграфова и др.

В разное время с хором работали такие выдающиеся дирижёры, как Евгений Светланов, Мстислав Ростропович, Владимир Спиваков, Дмитрий Китаенко, Владимир Юровский, Владимир Федосеев, Хельмут Риллинг, Мишель Плассон, Геннадий Рождественский, Альберто Дзедда, Эннио Морриконе, Михаил Плетнёв, Кристоф Эшенбах, а также певцы: Елена Образцова, Ирина Архипова, Николай Гедда, Дмитрий Хворостовский, Анна Нетребко, Мария Гулегина, Динара Алиева, Василий Ладюк, Дмитрий Корчак, Зураб Соткилава, Евгений Нестеренко, Роберто Аланья, Анджела Георгиу и др.

Академический большой хор выступал в крупнейших концертных залах городов России, Китая, Италии, Франции, Германии, Израиля, Болгарии, Чехословакии, Японии, Коста-Рики, Южной Кореи, Катара, Индонезии и др.