את התזמורת ייסד ב־1936 הכנר היהודי ברוניסלב הוברמן, בשם ״התזמורת הארץ־ישראלית״. הוברמן הבין את הסכנה שבשלטון הנאצים, ועבר בין ערי אירופה כדי לגייס נגנים יהודים מעולים ולהביא אותם לארץ — וכך גם הציל אותם ואת משפחותיהם. הקונצרט הראשון נערך ב־26 בדצמבר 1936 בתל אביב, בניצוח המנצח האיטלקי הנודע ארטורו טוסקניני, שהתנדב לבוא במחאה על הפשיזם.
ב־1948, עם קום המדינה, קיבלה התזמורת את שמה הנוכחי. במשך עשרות שנים היה המנצח זובין מהטה המנהל המוזיקלי שלה, ובהמשך החליף אותו המנצח הישראלי להב שני. הבית שלה הוא היכל התרבות בתל אביב, והיא מופיעה בסיורים בעולם ומקיימת קונצרטים לילדים, לנוער ולמשפחות.