Die Zeitschrift wurde 1868 erstmals als Musica sacra – Monatschrift für Kirchenmusik und Liturgie von dem Kirchenmusiker und Priester Franz Xaver Witt herausgegeben. Zu Beginn bildete sie eine Ergänzung zu den 1866 erschienenen Fliegenden Blättern für katholische Kirchenmusik, herausgegeben für Deutschlands Volksschullehrer, sowie für Chorregenten, Organisten und Freunde der Musik und Mitwirkung mehrerer Musiker, die ebenso der weiteren Verbreitung der Ziele des Allgemeinen Cäcilienverbands dienten. Waren die Fliegenden Blätter ein offizielles Cäcilien-Vereins-Organ (CVO), beabsichtigte Witt mit der neuen Zeitschrift Musica sacra die Reform der katholischen Kirchenmusik zu unterstützen und Beiträge zu ihrer Förderung zu leisten.

Im Zuge der 23. Generalversammlung des Allgemeinen Cäcilienverbands am 2. Oktober 1928 in Köln wurde eine Fusionierung (ab dem Jahrgang 1929) des Cäcilienvereins-Organs (CVO, Jg. 60) und der Musica sacra (Jg. 59) zur Zeitschrift Cäcilien-Vereins-Organ Musica sacra, Monatsschrift für Kirchenmusik und Liturgie beschlossen. Aufgrund der schwierigen politischen Verhältnisse im Dritten Reich stellte der Cäcilien-Verein das Erscheinen von Musica sacra ein. Als Nachfolge diente die Zeitschrift Die Kirchenmusik, welche in sechs Jahrgängen von 1938 bis 1943 publiziert wurde. In der Nachkriegszeit erschien von 1949 bis 1955 unter dem Namen CVO – Zeitschrift für Kirchenmusik eine weitere Nachfolgeschrift, die mit dem 69. Jahrgang die Zählung des ehemaligen CVO übernahm.

Während der Jahrhundertfeier des Allgemeinen Cäcilienverbands in Regensburg im Jahr 1968 wurde der 88. Jahrgang der Musica sacra zu einer Zweimonatsschrift umgestaltet. Nach einer umfangreichen Leserumfrage zur Jahrtausendwende erhielt die Zeitschrift mit Zustimmung des ACV-Vorstands ein neues Erscheinungsbild und ein größeres Format. Der Titel der Zeitschrift wurde präzisiert zu “Musica sacra – Die Zeitschrift für Katholische Kirchenmusik” und ab dem 130. Jahrgang wurden sowohl der Umschlag als auch der Innenteil farbig gestaltet.