A parte mais antiga do complexo foi construída sob orientação de Frei Antônio de Santana Galvão para abrigar o recolhimento das irmãs concepcionistas, função esta que também se mantém até hoje.

O acervo do museu começou a ser formado por Dom Duarte Leopoldo e Silva, primeiro arcebispo de São Paulo, que a partir de 1907 começou a recolher imagens sacras de igrejas e pequenas capelas de fazendas que sistematicamente eram demolidas após a proclamação da República.

O Museu de Arte Sacra de São Paulo é fruto de um convênio celebrado entre o Governo do Estado e a Mitra Arquidiocesana de São Paulo, em 28 de outubro de 1969 e sua instalação data de 29 de junho de 1970.