Iš pradžių Kauno 1-oji muzikos mokykla, nuo pat jos įsteigimo 1948 metais, veikė dabartiniame Kauno Juozo Gruodžio konservatorijos pastate. Tačiau muzikos mokyklai vadovaujant Kazimierui Znamenskui, 1966 metais, muzikos mokykla išsikėlė į atskiras patalpas, dabartinį Kauno 1-os muzikos mokyklos pastatą, Juozo Gruodžio g. 25, kur anksčiau veikė Kauno vaikų namai Nr. 2.