Создан в 1951 году при Всесоюзном радиокомитете, а в 1953 году вошёл в состав Московской филармонии.

За более чем полувековую историю оркестр дал более 6 тыс. концертов в крупнейших залах и на престижных фестивалях. Коллектив выступал под управлением выдающихся дирижёров, среди которых Курт Зандерлинг, Андре Клюитанс, Лорин Маазель, Шарль Мюнш, Зубин Мета. С оркестром сотрудничали Игорь Стравинский, Бенджамин Бриттен и Кшиштоф Пендерецкий; играли практически все крупнейшие солисты второй половины XX — начала XXI века: Артур Рубинштейн, Гленн Гульд, Артуро Бенедетти Микеланджели, Маурицио Поллини, Исаак Стерн, Иегуди Менухин, Святослав Рихтер, Эмиль Гилельс, Давид Ойстрах, Леонид Коган, Мстислав Ростропович, Наум Штаркман, Владимир Крайнев, Николай Петров, Виктор Третьяков, Юрий Башмет, Элисо Вирсаладзе, Наталия Гутман, Денис Мацуев, Николай Луганский, Борис Березовский, Александр Князев, Максим Венгеров и другие мастера музыкального исполнительства. Коллектив записал более 350 пластинок и компакт-дисков, многие из них удостоены высших международных наград в области аудиозаписи.

Художественный облик и исполнительская манера коллектива сформировались под руководством прославленных отечественных дирижёров. Первым оркестр возглавил крупнейший оперный и симфонический дирижёр своего времени Самуил Самосуд (1951–1957). В 1957–1959 годах под руководством Натана Рахлина за коллективом закрепилась слава одного из лучших в СССР. В 1958 году на I Международном конкурсе имени П.И. Чайковского оркестр под руководством Кирилла Кондрашина сопровождал триумфальное выступление Вана Клиберна, а затем, в 1960 году, первым из отечественных симфонических коллективов совершил гастроли по США. Кирилл Кондрашин возглавлял оркестр 16 лет (1960–1976), в творческом тандеме с маэстро коллектив обрёл мировую славу. Помимо выдающихся трактовок произведений «золотого симфонического репертуара» (особенно это касается симфоний Малера), в эти годы были представлены знаковые премьеры произведений Шостаковича, Свиридова, Хачатуряна, Кабалевского, Вайнберга и других композиторов. В 1973 году оркестру присвоено почётное звание «академического».

В дальнейшем оркестром руководили Дмитрий Китаенко (1976–1990), Василий Синайский (1991–1996), Марк Эрмлер (1996–1998). В 1998 году коллектив возглавил народный артист СССР Юрий Симонов. Под его руководством оркестр гастролирует по всему миру, являясь желанным гостем на престижных европейских сценах, и активно выступает в российских регионах. Большой популярностью пользуется цикл детских концертов «Сказки с оркестром» с участием звёзд российского театра и кино, который проходит не только в Московской филармонии, но и во многих городах России. За этот проект Юрий Симонов был награждён премией Мэрии Москвы в области литературы и искусства (2008). В сезоне 2015–2016 в проекте «Сказки с оркестром» участвуют артисты: Анна Большова, Ольга Будина, Игорь Золотовицкий, Авангард Леонтьев, Павел Любимцев, Дмитрий Назаров, Юрий Стоянов, Григорий Сиятвинда.

Один из творческих приоритетов — работа с молодым поколением музыкантов. Прежде всего это постоянное участие в концертах прославленного оркестра тех одарённых солистов, которые только начинают свой путь на большую сцену.

Оркестр удостоен гранта Правительства РФ (2007) и гранта Президента РФ (2013).