La présence d'un culte sur le tombeau de saint Martial est attestée dès le vie siècle, dans les œuvres de Grégoire de Tours. Vers 680, ce sanctuaire est témoin d'un épisode politique : un homme de guerre, nommé Loup, duc d'Aquitaine et de Vasconie, se révolte contre le pouvoir des rois francs et tente un coup de force dans la ville, qui a une importance stratégique pour le contrôle de l'Aquitaine. Il échoue, d'après les textes, du fait d'un miracle du saint, ou bien par l'opposition des habitants de Limoges.
Au Moyen Âge, l'abbaye et le quartier qui l'entoure constituent l'un des deux pôles urbains autour desquels la ville se développe. L'autre pôle est regroupé autour de la cathédrale.
Une basilique consacrée au Sauveur est construite à proximité immédiate, mais à côté, du tombeau de saint Martial au ixe siècle, à une date qui fait débat. Les principales informations données par les sources sur le sujet sont issues des œuvres du chroniqueur Adémar de Chabannes, moine à l'abbaye au début du xie siècle. L'hypothèse traditionnelle considère les datations qu'il indique comme sujettes à caution, car il a développé un dossier de falsification pour faire considérer saint Martial comme un apôtre et non plus comme un confesseur, c'est-à-dire comme un prestigieux compagnon du Christ et non comme un saint ordinaire. Elle refuse donc la chronologie qu'il avance, lorsqu'il indique que la basilique aurait été consacrée en 832 et aurait accueilli le sacre de Charles l'Enfant, fils de Charles II le Chauve comme roi d'Aquitaine en 855 : la construction de cette église n'aurait guère eu de sens quelques années avant la transformation de la communauté qui desservait le sanctuaire en abbaye bénédictine, en 848. Cependant, une autre hypothèse, plus récente, pourrait valider la chronologie d'Adémar de Chabannes : la basilique aurait été construite en 832 dans le cadre d'un ensemble palatial, qui aurait donc naturellement accueilli le sacre de Charles l'Enfant. Saint-Martial de Limoges paraît jouer alors un rôle politique et mémoriel important pour les rois et ducs d'Aquitaine.
Pour répondre à une épidémie d'ergotisme, en 994, l'évêque de Limoges Hilduin et son frère Geoffroy, abbé de Saint-Martial, organisent une procession avec les reliques de plusieurs saints limousins, et en premier lieu saint Martial. Ses reliques, tirées de son tombeau, sont placées dans une châsse d'or et transportées en procession jusqu'au Montjovis, un lieu situé à un peu plus d'un kilomètre de l'abbaye (aujourd'hui un quartier du nord-ouest de Limoges), le 12 novembre 994. Là, elles sont présentées à la vénération des fidèles avec celles des autres saints limousins. Elles y demeurent jusqu'au 4 décembre, puis sont rapportées à l'abbatiale. À cette date, l'épidémie s'est interrompue. Le clergé et le duc Guillaume IV d'Aquitaine profitent de ce rassemblement, et de la joie liée à la fin de l'épidémie, pour instaurer la Paix de Dieu. La pratique de la procession et de la présentation des reliques à la vénération des fidèles est ensuite reprise ponctuellement pendant plusieurs siècles, puis une périodicité septennale est instaurée au cours du xvie siècle. Elle reçoit au xiiie siècle le nom d'ostensions.
Au début du xie siècle, les moines de Saint-Martial de Limoges se lancent dans une entreprise de falsification historique de grande ampleur, pour obtenir que saint Martial soit considéré non plus comme un confesseur de la foi, mais comme un apôtre : ce compagnon du Christ est au sommet de la hiérarchie des saints, alors que le confesseur se place loin derrière, après l'apôtre mais également le martyr. L'histoire recomposée fait donc de Martial le jeune garçon ayant apporté les cinq pains et les deux poissons pour la multiplication des pains. Il aurait ensuite servi les apôtres à table lors de la Cène, avant d'être envoyé par saint Pierre évangéliser la Gaule, à la demande du Christ. En 1023, cette campagne de promotion aboutit à la requalification du saint, de confesseur à apôtre, dans les offices liturgiques célébrés à l'abbaye. L'évêque de Limoges s'y opposant, le duc convoque un concile provincial, réunissant les évêques d'Aquitaine. L'assemblée porte saint Martial au rang des apôtres, ce qui couronne les efforts des moines. L'opposition de l'évêque et des chanoines conduit à plusieurs nouveaux conciles, mais l'opinion des moines prévaut à chaque fois. L'un d'entre eux, Adémar de Chabannes, rédige pour l'un de ces conciles une vita de saint Martial.
Un chantier de reconstruction complète de l'église abbatiale, consacrée au Sauveur, est lancé vers 1017-1018 pour accompagner cette entreprise de réécriture de l'histoire. Le chantier a pour objectif de promouvoir le pèlerinage, notamment par des locaux plus adaptés. Le chevet de la nouvelle église est dédicacé par l'évêque de Limoges, à la demande de l'abbé Odolric, en 1028. En 1043, un incendie détruit une partie des bâtiments conventuels et endommage le chantier en cours.
L'abbaye est donnée à l'ordre de Cluny en 1062 par le vicomte de Limoges, Adémar. Les moines de Saint-Martial refusent de reconnaître l'autorité de Cluny, et, après la mort de l'abbé Mainard, l'installation du nouvel abbé, Adémar de Laurière, désigné par l'abbé de Cluny Hugues de Semur, est difficile. Il faut une intervention d'un légat pontifical, Pierre Damien, pour que l'ordre soit rétabli.
Le premier abbé clunisien, Adémar de Laurière, poursuit et achève les travaux de l'abbatiale : il installe notamment la table d'autel en marbre blanc commandée quelques décennies plus tôt par l'abbé Odolric, et construit les trois dernières travées de la nef de l'abbatiale, à l'ouest. L'église, probablement achevée, est finalement consacrée par le pape Urbain II en 1095, toujours sous l'abbatiat d'Adémar. Il fait également reconstruire une partie des bâtiments conventuels et y ajoute une infirmerie. Il développe également le rayonnement culturel de l'abbaye en y faisant produire des manuscrits richement enluminés.
Sous le deuxième successeur d'Adémar, Amblard, un incendie endommage les bâtiments conventuels en 1123, conduisant à une nouvelle reconstruction. Ces travaux, comme ceux d'Adémar, sont financés par l'accroissement du temporel de l'abbaye. À la fin du xiie siècle, l'abbaye, comme la ville de Limoges, est prise dans les troubles causés par l'opposition entre Henri le Jeune, son père, Henri II Plantagenêt le roi d'Angleterre, et son frère cadet Richard Cœur de Lion. Pour financer ses campagnes militaires, Henri le Jeune pille le trésor de Saint-Martial. Ces événements, ainsi qu'un conflit lors d'une élection abbatiale en 1214, mettent l'abbaye dans une situation financière difficile. L'abbé Hugues de Brosse (1198-1214) est à l'origine de la reconstruction de l'ensemble des bâtiments conventuels situés autour du grand cloître. Le projet, inscrit dans le cadre d'une émancipation progressive vis-à-vis de Cluny, est extrêmement ambitieux et s'inspire des grands monuments gothiques de la France du nord. L'aile orientale, avec la salle capitulaire, le dortoir et la chapelle Saint-Benoît, sont sans doute achevées en 122410. Les galeries du cloître sont achevées en 1249, après le réfectoire sur lequel elles s'appuient.
L'abbé Raymond Gaucelm, élu en 1226, rétablit la situation financière de l'abbaye, puis lance de nouveaux travaux de grande ampleur sur les bâtiments conventuels. Il enrichit également le trésor.
Sous son abbatiat, l'abbaye se détache progressivement de l'ordre de Cluny. Cette séparation est achevée par un accord en 1246.
En 1535, sous l'impulsion de l'abbé Matthieu de Jovion, l'abbaye bénédictine de Saint-Martial de Limoges est sécularisée et devient une collégiale de chanoines. Elle décline tout au long de la période moderne, et ses bâtiments se dégradent, malgré quelques efforts ponctuels pour relever telle ou telle partie. Ainsi, la chapelle Saint-Benoît, confiée à la grande confrérie de saint Martial se voit restaurée par ses membres jusqu'à en faire « la plus élégante de toutes les constructions du monastère [...], une charmante construction toute à jour, en style gothique, qui reproduisait la forme et les dimensions de la Saint-Chapelle de Paris ». Les chanoines manquent régulièrement d'argent ; en 1730, ils vendent une partie de la bibliothèque au roi de France Louis XV. Dès 1745, une partie des bâtiments conventuels est démolie. L'abbatiale est à son tour démantelée à la suite de la sécularisation des biens du clergé à la Révolution française, après 1791. Les vestiges archéologiques sont inscrits au titre des monuments historiques par arrêté du 12 mars 2019