Op 10 oktober 1934 werd door Leo Mens het Leids Studenten Zangkoor (LSZ) opgericht. Op 26 mei 1936 begon bij een concert een samenwerking tussen dit koor en een gelegenheidskamerorkest. Het laatste bestond uit leden van de Vrijzinnige Christelijke Studentenbond, en werd geleid door dirigent Hans Brandt Buys. Enkele maanden later, op 15 november 1936 werd het Leids Studenten Kamerorkest “Collegium Musicum” opgericht. Het is dan ook dit jaar dat Collegium Musicum als oprichtingsjaar beschouwt. Brandt Buys nam het dirigentschap op zich.
Hoewel hij in 1939 ook het LSZ ging leiden, bleven het koor en orkest nog lange tijd officieel twee verenigingen.
Omdat het oudere “Sempre Crescendo” Leiden te klein achtte voor twee muziekverenigingen, zat er steeds een Sempre-afgevaardigde in het bestuur. De CM’ers lieten zich daar echter niet door ontmoedigen, want zij bleven gezellig muziek maken; de “nafuiven” na een geslaagd concert waren beroemd en berucht en duurden vaak de gehele nacht.

Toen de Tweede Wereldoorlog in Nederland aankwam, leek er in eerste instantie niets aan de hand, maar in 1941 werden studentenverenigingen verboden. De CM’ers kwamen eerst nog stiekem bij elkaar. Zo hadden zij met Pinksteren 1941 nog een repetitieweekend nabij de Loosdrechtse plassen. Dit gebeurde in de molen van Arie Bijl, een man die de oorlog niet zou overleven. De burgemeester stond garant dat de CM’ers niet gestoord zouden worden. De CM’ers en LSZ’ers wisten nog verder het verbod te omzeilen. In 1942 kreeg de Remonstrantse kerk aan de Hooglandse Kerkgracht ineens een kerkkoor en -orkest. Dirigent hiervan was oude bekende Brandt Buys. Toevallig zaten veel CM’ers en LSZ’ers hierbij. Het was ook merkwaardig dat zij repeteerden ná de kerkdienst in plaats van daarvoor. De bezetter merkte dat al gauw, en het was snel gebeurd met de Remonstrantse muziekmakerij.

De verenigingen leken een stille dood te sterven, maar nog geen week na de bevrijding bleek dat de CM-vlam nog in vele harten gloeide. Erik Noach was in deze tijd een belangrijke drijvende kracht achter de herrijzenis van CM. Brandt Buys, die eerder nog zijn “bevrijdingscantate” voor Wilhelmina ten gehore had gebracht, vertrok echter in het najaar van 1945. Zijn vertrek gaf grote onrust in beide verenigingen. De samenwerking van koor en orkest bleef echter een succesformule, en de verenigingen groeiden naar elkaar toe. In 1954 kwam er één bestuur voor het koor en het orkest. In 1964 fuseerden het Leids Studenten Zangkoor en Collegium Musicum dan officieel tot het Leids Studenten Koor en Orkest Collegium Musicum.

Omdat het bestuur het drukker kreeg, werden meer en meer commissies opgericht om naast het muzikale element, ook het gezelligheidselement van de vereniging te waarborgen. In de jaren ’70 werd een onderscheid gemaakt tussen bestuurscommissies, die verantwoording aan het bestuur moeten afleggen, en verenigingscommissies, die zich voor de ALV moeten verantwoorden. De belangrijkste verenigingscommissie is de Buicie (Buitenlandcommissie), die de tournees organiseert. CM ging in 1976 voor het eerst op Tournee, naar Beieren. In deze tijd was het gebruikelijk pas op tournee te gaan wanneer voldoende geld bijeengebracht was. Nu gebeurt dat elke twee jaar.
Één jaar eerder, in 1975 had dirigent André Kaart het kamerkoor opgericht. Begin jaren ’80 verhuisde CM naar de repetitieruimtes in het Lipsius, en kregen koor en orkest ieder hun eigen dirigent. Op deze manier ging de kwaliteit omhoog, en de vereniging groeide en bloeide.

In 1993 werd Gilles Michels aangenomen als koordirigent. Nu, in 2016, geldt hij als de langstzittende CM-dirigent. Vanaf 2015 is Jeppe Moulijn orkestdirigent. Dankzij hun grondige inspanningen blijft het CM-niveau hoog. In de laatste tijd heeft de automatisering en digitalisering het bestuur kunnen ontlasten. Zo werd onder andere de communicatie eenvoudiger; met e-mails, een forum, en later de facebook-discussies kon iedereen goed op de hoogte blijven van het reilen en zeilen van CM. Veel is veranderd, maar nog altijd gaan bij CM muziek en gezelligheid hand in hand.