In september 1908 werd als onderafdeling van de Werkliedenvereniging St. Joseph een harmonie opgericht. De toenmalige paus LEO XIII leidde tot de naam LEO-Harmonie. Gestart werd met een 12-tal leden en het eerste bestuur bestond uit de heren J. Verborg, J. Roos, J. Boonman, B. Lindsen en W. Hesseling. Nadat men er met veel moeite in was geslaagd zelf de aankoop van de instrumenten te bekostigen, werd een aanvang gemaakt met de repetities, onder leiding van de heer ten Dijke uit Emmerich. De eerste repetities vonden beurtelings plaats in het Josephgebouw en in café Heeswijk.

Gedurende de eerste wereldoorlog werd niet geoefend, maar vonden alleen af en toe bijeenkomsten plaats. Na 1918 brak een tijd aan dat veel geoefend werd onder leiding van de nieuwe dirigent, de heer Nova uit Didam. Het optreden naar buiten bleef echter vooreerst beperkt tot het muzikaal opluisteren van de twee jaarlijkse processies te Lobith. Op 9 juli 1922 werd voor het eerst aan een concours deelgenomen en wel bij de zustervereniging te Huissen, waar een eerste prijs werd behaald. Reeds in 1924 werd ook de St. Maartenoptocht te Elten opgeluisterd. Deze traditie is in ere gehouden en ook nu nog wordt jaarlijks medewerking verleend aan het St. Maartenfeest te Elten. In 1927 werd met veel succes deelgenomen aan een festival van de limonadefabrieken de Kroon te Elden.