Das Orchester wurde 1903 von den meisten Mitgliedern der Konzertgesellschaft gegründet —dem ersten stabilen Sinfonieorchester Spaniens, das 1866 von Francisco Asenjo Barbieri gegründet wurde— und gab sein Debüt am 7. Februar 1904 im Teatro Real in Madrid unter der Leitung von Alonso Cordelás. 1905 begann eine fruchtbare Zusammenarbeit mit Enrique Fernández Arbós, die drei Jahrzehnte andauerte, in denen auch Persönlichkeiten wie Richard Strauss und Igor Strawinsky das Podium bestiegen. Unter Arbós' Leitung wurden die grundlegenden Ziele definiert, die das Orchester bei all seinen Aktivitäten verfolgen sollte: Erneuerung des Repertoires, Unterstützung für spanische Musik und Musiker sowie Schaffung neuer Publikumsschichten. Einhundert Jahre später bleiben diese drei Kriterien für das Sinfonieorchester Madrid von grundlegender Bedeutung. Nach Arbós' Tod wurde das Orchester von spanischen Dirigenten wie Conrado del Campo, José María Franco, Enrique Jordá und Vicente Spiteri geleitet.