L'église a été édifiée sur un amphithéâtre antique. La première mention écrite de son existence remonte au tout début du 12e siècle. Saint-André était alors dans un faubourg qui ne fut intégré à la ville qu'à la fin du 12e siècle, lors de la construction du mur d'enceinte. Les parties les plus anciennes de cette église appartiennent au début du 12e siècle. C'est alors une collégiale administrée par un chapitre de douze chanoines. L'église voisine, Saint-Nicolas, étant insuffisante pour les besoins de la paroisse, un accord intervient pour que les habitants utilisent la collégiale. L'église connaît alors des agrandissements successifs. Au début du 13e siècle une arche large de quatorze mètres est jetée au-dessus de la rivière pour supporter le chœur.

Le chœur est reconstruit au 16e siècle par Jehan de Beauce puis prolongé en 1612 par une chapelle absidiale enjambant la rue du Massacre.

Aujourd'hui, la collégiale Saint-André accueille de nombreuses manifestations et les jardins ont fait l'objet d'un soin tout particulier.