Wenn auch das Vereinsarchiv erhebliche Lücken aufweist, so ist der Musikverein dennoch in der glücklichen Lage, im Gemeindearchiv wertvolle Hinweise zu finden, die seine Entstehung dokumentieren.

Die zweite Hälfte des 19. Jahrhunderts war für Vereinsgründungen eine besonders fruchtbare Zeit. So nimmt es nicht wunder, dass auch Mudau an dieser Entwicklung teilnahm. Im Jahre 1872 war die Zeit dafür reif, eine Musikkapelle ins Leben zu rufen. Unter dem Datum vom 29. September und 8. Dezember 1872 vermerkt das Gemeindearchiv:

Die Gründung einer Blechmusik dahier betr. Die unterzeichneten hiesigen Einwohner erklären sich hiermit bereit und verpflichten sich eine sog. Musikbande zu gründen, die Musik, so Blechmusik durch einen zu berufenden Instrukteur ordnungsmäßig einzuüben und die nöthigen Instrumente eingenthümlich auf ihre Kosten anzuschaffen, wogegen die Kosten für den Musikunterricht selbst durch freiwillige Beiträge aufgebracht werden sollen. Die Instrumente sind von der Musikgesellschaft auf gemeinschaftliche Kosten zu erwerben. Ignatz Schmedding, Karl Joseph Blaut I, Karl Blaut II, Robert Sachs, Karl Schmedding, Karl Scheuermann, Joseph Zimmermann, Alois Blaut, Friedrich Bucher.

Drei Jahre nach der Gründung des Vereins hatte das Interesse so sehr zugenommen, dass am 19. Oktober 1875 die Ausbildung von Musikschülern mit folgender Satzung beschlossen wurde:

§1
Die unterzeichneten 1. Julius Breunig 2. Friedrich Bucher 3. Karl Scheuermann 4. Alois Blaut 5. Karl Blaut 6. Anton Schmitt jg. 7 Karl Noe 8. Ignatz Schmedding 9. Gustav Hemberger 10. Joseph Zimmermann 11. Valtin Schöllig 12. Lukas Kieser verpflichten sich hiermit unter Leitung des Musikkastenbetriebs Bauer aus Schneeberg als ein harmonisches Musikkorps auszubilden, in welchem Sinne dieselben allen Anforderungen des genannten Instrukteurs unverweigerliche Folge zu leisten, namentlich der Unterrichtsstunden pünktlich zu besuchen haben.
§2
Die Lehrzeit wird auf 6 Monate vom 1. November d. J. bis 1. Mai k. J. festgesetzt.
§3
Während der Lehrzeit ist sämtlichen Schülern strenge untersagt auf irgendwelche Weise öffentlich musikalisch aufzutreten.
§4
Die Kosten für den Musikinstrukteur berühren die Musikschüler nicht, solche werden vielmehr von der passiven Gesellschaft übernommen und getragen.
§5
Sämtliche Instrumente werden von allen Musikschülern unter somit verbindlicher Haftbarkeit angeschafft und abbezahlt und zwar mit der Modifikation, dass die drei Clarinetisten den Bombardon-Schülern einen Zuschuss von je 4 M zusammen 12 M zu leisten haben.
§6
Sollte einer der Schüler während der Lehrzeit oder in der Folge ohne genügend Gründe von der Musikgesellschaft austreten, so hat er die für ihn bezahlten Instruktionskosten, welche nach dem Gesamtbetrage dieser Kosten bemessen werden zu ersetzen.
§7
Die Musikschüler verpflichten sich bei öffentlichen Festen für die Gemeinde dahier unentgeltlich mit ihrer Musik aufzutreten.
§8
Unter den Kosten für den Instrukteur ist das Notenpapier und sonstiges Schreibmaterial nicht begriffen, diese Materialien sind vielmehr auf Kosten der Schüler zu beschaffen. Vorgelesen, anerkannt und unterschrieben die Musikschüler…

Der Name „Harmonie” wird erstmals in einer polizeilichen Verfügung vom 27. Juli 1881 über eine Ausnahme des Proberaums von der allgemeinen Polizeistunde erwähnt.

Dass der Musikverein schon in den Gründerjahren zumindest auf örtlicher Ebene tätig war wird bezeugt durch zwei Einträge im Protokollbuch des Gesangvereins „Frohsinn”. Unter dem Datum des 25. Juli und des 18. Dezember 1887 vermerkt der Chronist bei ‚Ausgaben, die durch das Sängerfest veranlasst wurden’ unter anderem: „7 der hiesigen Musikgesellschaft für Dienstleistung während des Festes 60 Mark”.

Wenn auch bis zum 15. Mai 1923 keine genauen Unterlagen vorhanden sind, so steht dennoch fest, dass der Verein keineswegs untätig war. Es kann vielmehr angenommen werden, dass er nicht auf die Hilfe der Gemeinde angewiesen war und auf eigenen Füßen stand. Alte Fotos beweisen, dass die Gründungsmitglieder bis über die Jahrhundertwende hinaus den Verein getragen haben. Musiker wie Wilhelm Mantel, Markus Mantel, Julius Götz, Engelbert Scholl, Otto Fertig, Berthold Schmedding sind immer wieder auf den Fotos zu sehen. Während des Ersten Weltkrieges kam es jedoch wie überall in Deutschland zum Erliegen der Vereinstätigkeit. So ergab sich nach Beendigung des Krieges die Notwendigkeit einer Förderung um das Vereinsleben wieder zu aktivieren. Auf Initiative von Engelbert Scholl sowie Markus Mantel, der auch den Vorstand übernahm, erfolgte schließlich am 24. April 1921 die Widergründung. Unter dem Datum vom 15. Mai 1923 bestätigen Vorstand Markus Mantel und der damalige Dirigent Alois Grimm, von der Gemeinde Instrumente, Noten und Musikschulen leihweise erhalten zu haben. Zur Kapelle gehörten damals außer den vorstehend genannten Musikern u. a. Emil Blaut, Anton Blaut, Otto Fertig jg., Julius Götz jg., Wilhelm Götz, Heinrich Henn, Wilhelm Sammet II, Joseph Schmedding und Alois Schnätz. In dieser Zusammensetzung spielte die Kapelle auch am ersten Heimatfest im Jahre 1927 und hat sich unter schwierigen Umständen dann recht und schlecht über die folgenden Jahre gehalten.

Die keineswegs erfreuliche Situation der Kapelle führte im Jahre 1931 zu Verhandlungen mit dem Musikdirektor Paul Jäpel aus Mannheim-Friedrichsfeld. Er erbot sich in einem sehr umfangreichen Briefwechsel mit der damaligen Gemeindeverwaltung, „eine schöne und leistungsfähige Musikkapelle heranzubilden”. Seitens der Gemeinde war durchaus Interesse vorhanden. Dies äußerte sich in der Absicht von folgenden 16 jungen Leuten, in der Kapelle mitzuwirken: Alois Berg, Franz-Theo Bing1er, Emil Blaut, Otto Fertig jg., Heinrich Götz, Richard Grimm, Heinrich Henn, Theodor Hörst, Valentin Link, Artur Mechler, Josef Noe, Willi Noe, Andreas Schäfer, Alois Schnätz, Valentin Schöllig und August Zimmermann. Allerdings sah sich die Gemeinde trotz grundsätzlicher Zustimmung zu den Bedingungen Musikdirektor Jäpels in Anbetracht ihrer finanziellen Schwierigkeiten gezwungen, das Angebot vorerst abzulehnen.

Die Verhandlungen wurden im Jahre 1933 zwar noch einmal aufgenommen, führten aber wiederum zu keinem Ergebnis. Eine echte Neubelebung des Vereins erfolgte gegen Ende des Jahres 1934 unter der Leitung von Musikdirektor Georg Bühl. Erforderlich hierzu war eine größere Anzahl von Instrumenten. So wurden angeschafft: 1 Piccoloflöte zu 15 RM, 3 Klarinetten a 56 RM, 1 Trompete zu 62 RM, 2 Waldhörner a 90 RM, 1 Tenorhorn zu 110 RM, 2 Zugposaunen a 62 RM, 1 Tuba zu 300 RM, 1 kleine Trommel zu 34 RM, 1 große Trommel zu 50 RM, 1 Paar Becken zu 32 RM, 1 Trommelständer zu 5 RM und 1 Bariton zu 145 RM. Diese Instrumente wurden von der Firma F. Sched-Niwy in Ludwigsburg geliefert. Damit war die Musikkapelle ausreichend mit Instrumenten versorgt, so dass nun weitere Musiker aufgenommen werden konnten: Karl Götz, Franz Schäfer, Otto Kieser, Rudolf Reichert (Trompeten), Josef Hemberger, Vinzenz Hemberger, Alois Speckert, Arthur Hahn, Fritz Sammet (Klarinetten), Valentin Rögner (Bass), Erich Bucher, Valentin Schöllig (Posaunen), Ferdinand Banschbach, Josef Röckel (Tenorhörner), Kurt Grimm (Bariton), Heinrich Scheuermann, Otto Götz (Es-Hörner) und Heinrich Speckert (große Trommel), später Emil Götz.