L’abbaye de Neath est fondée en tant que monastère par l'ordre de Savigny en 1130, mais lorsque cet ordre est absorbé par l'expansion rapide de l'ordre cistercien en 1147, Neath devient une maison cistercienne. Un complexe monastique est achevé à la fin du XIIe siècle, et malgré les attaques pendant les soulèvements gallois, le site prospère rapidement sous le patronage de Robert de Clare et sa reconstruction sur une plus grande échelle débute à la fin du XIIIe siècle. La richesse du monastère provient en grande partie des vastes domaines qui lui ont été octroyé à travers Glamorgan, Devon et Somerset, et l'agrandissement de celui-ci entraîne une querelle acharnée avec l'Abbaye voisine de Margam.
Bien que l’abbaye de Neath échappe à la première vague de dissolution des monastères d'Henry VIII en 1535, quatre ans plus tard Abbot Leyshon Thomas est forcé d'abandonner le monastère à la Couronne. Le site est octroyé à Richard Williams, mais se retrouve dans les mains de Sir John Herbert en 1600. Un grand manoir Tudor est construit dans l'angle sud-est des cloîtres, au cours de la dernière partie du XVIe siècle. Cependant, après un siècle d'occupation, celui-ci tombe également en ruines.
Avec la montée de l'industrie lourde au cours du XVIIIe siècle, certains des anciens bâtiments monastiques sont reconvertis pour la fonte du cuivre et une usine sidérurgique ouvre ses portes à proximité. Lorsque l'aristocrate breton Armand-Louis-Bon Maudet, comte de Penhouët, alors en exil, visite le site en 1796, il loue la beauté des ruines, qui montrent encore les traces de leur ancienne gloire médiévale, mais l'effroi s'empare de lui en apercevant les mendiantes sans-abri et leurs enfants et il s'enfuit loin d’eux. Ces mendiantes lui rappellent un peu trop la marche des femmes parisiennes sur Versailles qui avait débuté la Révolution française. Pris en charge par l'état en 1944, le site est maintenant la propriété de Cadw, et est un site populaire pour le tournage de films et a été largement utilisé dans des émissions de télévision comme Doctor Who et Merlin.
Nous marchâmes vers les ruines plus considérables de l’abbaye, situées au bord de la Tawe, à un demi mile de la ville. Ce qui reste de l’église suffit à donner une idée de sa forme et de sa beauté, car ses fenêtres sont d’une taille et d’une grandeur impressionnantes; mais la partie la plus et la mieux preservée est le couvent contigu: si seulement il l’était moins, car ses cellules servent de refuge à une bande innombrable de mendiants, dont les formes sont hideuses au-delà de ce que l’on peut imaginer: l’air que l’on respire dans ces cavernes souterraines est, sans aucun doute la cause du teint livide et de l’aspect maigre qui les caractérise tant. Dès que j’entrai dans l’une des absides voûtées, plusieurs femmes sortirent de trous qui débouchaient dedans; elles m’encerclèrent, et plus m’avançais, plus elles devenaient nombreuses: elles portaient presque toutes un bébé sur le dos, et la voix avec laquelle elles mendiaient‚ ne pouvait être comparée qu’à celle de ces femmes qui menaient les troupes révolutionnaires à Paris. En choisissant ces endroits pour habitation elles économisesnt bien le loyer – mais l’oisiveté est la cause majeure de leur continuation dans cet état de misère.
En passant devant une forge où l’on fabrique du fer, nous avons assisté par hasard à l’une de leurs opérations; je ne tâcherai pas de vous décrire l’intérieur d’une de ces maisons de Vulcan, car cela est étranger à mon sujet: je dois, cependant, juste noter, comme chose qui vaut une grande attention, ces énormes machines qui marchent au feu, l’invention ingénieuse de l’âge dans lequel on vit, qui en suppléant la main d’œuvre humaine, produit des effets si surprenants. Ici la vapeur d’eau soulève en équilibre un poids de cinqu mille livres, et cette même vapeur, une fois condensée, règle l’action de la soufflerie, qui soufflent sans cesse sur les fourneaux où le métal est en fonte.