Si tratta di un antico monastero rupestre, eretto nel 1227 da san Silvestro abate, fondatore della Congregazione Monastica Benedettina Silvestrina, in luogo adatto alla quiete e alla contemplazione. L’eremo è costituito da una parte scavata nella roccia e una costruita in pietra calcarea. La chiesetta un tempo era in stile gotico a navata unica senza abside con monofore, mentre il piccolo monastero, di forma quasi circolare, disponeva di un chiostro, un pozzo e tutti quegli ambienti tipici dei monasteri benedettini.