Σε ένα ύψωμα στη βορειοδυτική πλαγιά του όρους Βαράσοβα, ανατολικά του Περιθωρίου, διατηρείται μικρό φρούριο, γνωστό ως Παλαιόκαστρο, στο οποίο οδηγεί χωματόδρομος που ξεκινά ανατολικά του χωριού. Από το φρούριο σήμερα διατηρείται μέρος των τειχών, ενώ για την άμυνα της θέσης, έχει αξιοποιηθεί το φυσικό απόκρημνο έδαφος.
Το Κάστρο αυτό αναφέρεται από τον Piero Sanudo, και έχει καταχωρισθεί από τον χρονικογράφο της Βενετίας Marin Sanudo, ως ένα από τα τέσσερα σημαντικά φρούρια (Γαλατάς (Galata), Περιθώριο (Peritorio), Βρωμιάρι (Uromiari) και Νεόκαστρο (Neokastro), που υπήρχαν επί Βενετοκρατίας στην ευρύτερη περιοχή της Ναυπάκτου. Τα φρούρια αυτά λειτουργούσαν ως «πόρτες», καθώς ήλεγχαν τους τρεις δρόμους από τους οποίους έφτανε κανείς στη Ναύπακτο.
Για το Φρούριο του Περιθωρίου στα τέλη του 15ου αι. αναφέρεται ότι, παρά τη σημαντική θέση του, ήταν πλέον παραμελημένο. Συγκεκριμένα, περιγράφεται ότι τα τείχη του ήταν σε κακή κατάσταση και είχαν χάσει σε πολλά σημεία το κονίαμά τους, υπήρχε μία σπασμένη δεξαμενή και έλλειψη πολεμοφοδίων, ενώ η μικρή φρουρά του δεν πληρωνόταν καλά.
