Il convento è collocato lungo la via per Cozze, conosciuta anche come ‘Via dei Cappuccini’ . La chiesa fu edificata tra il 1572 e il 1580 dalla nobile famiglia Acquaviva-Aragona, che governava la contea di Conversano. Il terreno fu donato da Andrea Matteo Martucci, di nobile famiglia, il cui figlio divenne frate cappuccino. La chiesa fu dedicata alla Croce e fu consacrata il 31 agosto 1660 dal vescovo Giuseppe Palermo. L’edificio è posto nella parte settentrionale dell’intero complesso. In facciata (prospetto ovest) l’edificio presenta elementi notevoli quali un timpano semicircolare sulla sommità della navata centrale con influenze dalmatico-venete, un campanile a vela, un pinnacolo vicino al timpano e un rosone ellittico al di sopra dell’accesso principale della chiesa. L’intero prospetto della chiesa è in pietra calcarea bianca locale; le tessiture murarie sono ben visibili e regolari. Nella sua totalità il prospetto mostra una netta separazione tra la chiesa e il convento. Questo fa supporre che il complesso conventuale sia stato edificato in una fase storica differente rispetto a quella della chiesa. Per quel che riguarda il convento le fonti riportano la data del 1580. Il convento, ampliato nel 1629, fu soppresso nel 1809, in seguito all’attuazione delle leggi napoleoniche che miravano alla soppressione di molti ordini. Nel 1861 il complesso fu soppresso e passò al demanio, poi al municipio e venne quindi utilizzato come lazzaretto. Nel 1901 il complesso venne utilizzato come abitazione del custode del cimitero presente nelle vicinanze. Ad oggi il complesso è utilizzato come deposito della marmeria dismessa che sorge a ridosso della parte meridionale.