Tradizione vuole che il monastero fosse fondato nel 1098 da Boemondo I d'Antiochia. Sul luogo esistevano altari, cripte e casupole dove i monaci andavano a pregare (casole, in dialetto salentino, da qui il nome S. Nicola di Casole). Successivamente Boemondo lo donò ad un gruppo di basiliani guidati da Giuseppe, che fu primo abate del futuro monastero. La ricognizione archeologica dimostra, invece, che il sito del monastero fu già occupato sin dall'VIII o IX secolo. Il monastero ospitò un circolo di poeti in lingua greca, guidato dall'abate Nettario, a cui appartennero, oltre allo stesso Nettario, Giorgio di Gallipoli, Giovanni Grasso e Nicola di Otranto. Nel monastero venne creata la biblioteca, con numerosissimi volumi greci e latini. Era all'epoca una delle biblioteche più ricche d'Europa.