Израильский филармонический оркестр был создан еще до провозглашения Государства Израиль – он возник в 1936 году. Скрипач Бронислав Губерман обратился к ведущим европейским музыкантам с призывом принять участие в большом оркестре в Палестине. Коллеги поддержали Губермана, и первый концерт, которым дирижировал выдающийся итальянский музыкант Артуро Тосканини, состоялся 26 декабря 1936 года.

Во время Второй мировой войны оркестр дал более около 150 концертов для солдат антигитлеровской коалиции. После образования Израиля коллектив из Палестинского был переименован в Израильский филармонический оркестр, исполнив на церемонии провозглашения Декларации независимости Израиля гимн новой страны.

Оркестром в разные годы руководили выдающиеся дирижеры. Леонард Бернстайн (1947-49 гг) называл работу с израильским оркестром лучшими годами своей жизни и всегда охотно откликался на приглашения выступить с ним. Вместе с Сергеем Кусевицким и Излером Соломоном Бернстайн провел первые гастроли оркестра в США в 1950 году.

Особая дата для Израильского филармонического оркестра – 1971 год. Музыканты дали триумфальный концерт в Берлине, имевший оглушительный успех. Последним среди произведений, исполненных на «бис», вновь стал гимн Израиля. Этими гастролями руководил один из лучших дирижеров мира Зубин Мета, который возглавил оркестр в 1968 году. Его успех был настолько велик, что Мета получил статус пожизненного руководителя Израильского филармонического оркестра – случай в мире музыки беспрецедентный.

Вместе с оркестром Зубин Мета участвует в символических акциях, имеющих большое не только музыкальное, но и общественное значение. Мета дирижировал концертом, в котором участвовали два оркестра – Баварский государственный и Израильский филармонический. Музыканты из Германии и Израиля вместе играли на сцене, построенной возле места, на котором находился концлагерь Бухенвальд. Возле одного из символов нацизма звучала симфония Малера – музыка сильнее смерти.