E' una delle chiese più importanti della città di Barletta e prende il nome dalla zona dove fu costruita dopo il ritrovamento di un antico quadro della madonna nera, che durante la pestilenza che decimò il comune di Barletta, fece improvvisamente fermare questo terribile evento, divenendo così, insieme al santo protettore San Ruggiero, la protettrice dei barlettani che ogni estate si commemora con la festa patronale di Barletta .
  
Prima della costruzione del Santuario diocesano di Maria SS. dello Sterpeto, esisteva, sin dal Medioevo, un’antica chiesetta, che si ritiene facesse parte di un modesto cenobio di monaci Basiliani.
Il più antico documento attestante la presenza in zona “Sterpeto” di una chiesa è del 1215. In esso il Papa Innocenzo III confermava all’Arcivescovo di Trani la giurisdizione sul villaggio dello Sterpeto.

Una volta proclamata la Madonna dello Sterpeto Patrona e speciale Protettrice di Barletta nel 1732, come riconoscimento di aver risparmiata la città dal terribile terremoto di quell’anno, l'antica chiesa fu demolita e si edificò sulle sue rovine quella che ora  corrisponde al vecchio Santuario, attualmente in via di restauro.

Nel 1968 si dava inizio alla costruzione del “nuovo Santuario”, che veniva consacrato solennemente il 5 settembre 1977 dall’arcivescovo della Diocesi, Mons. Giuseppe Carata.