Die aus der Buckelquaderepoche um 1200 entstammende einstige Burg Sigmaringen ging völlig in den Nachfolgebauten auf. Sie entstand auf dem östlichen Teil des Felsrückens. Sie gehört zu einer der am besten befestigten Burgen der Epoche.
Die damalige Anlage, eine Gipfelburg, maß 80 × 30 Meter wobei die Kernburg 45 × 20 Meter einnahm. Die flach abfallende und somit gefährdete Westseite stand einst hinter einem vorgelagerten Graben ein 25 bis 26 Meter hohen Bergfried. Er hatte einen fast quadratischen Grundriss von 8,23 × 8,34 Meter. Die Grundmauern der Frontseite weisen 3 Meter und ansonsten noch 2,5 Meter Stärke auf. Der einst viergeschossige Bergfried verjüngt sich nur geringfügig auf 2,50 beziehungsweise 2 Meter. Das Mauerwerk besaß eine Buckelquaderverblendung aus Kalkstein und Nagelfluh. Er konnte in rund acht Meter Höhe durch einen burghofseitigen Eingang betreten werden. Auf der linken Seite, in nördlicher Richtung, befand sich neben diesem Frontturm das Burgtor mit anschließendem Torwarthaus. Das 2,28 Meter breite und 3,96 Meter hohe Burgtor wurde als Rundbogen mit glatten Bogensteinen und Kämpferkapitell erbaut. Es befindet sich heute am Ende der steil rampenartig hochführenden Torhalle. Das Felsplateau wurde zudem durch eine innere Umfassungsmauer umschlossen. Vom damaligen Hauptwohngebäude (Palas) mit seinen Bogenfriesen und dem angeschlossenen Küchenbau nördlich davon, an der höchsten Stelle zum Steilabfall, erhielten sich Reste an der Außenwand. Auf der Südseite, sechs Meter tiefer liegend als die Kernburg, lag ein zehn bis zwölf Meter breiter und ebenfalls ummauerter Vorhof. Hier befindet sich die heutige Waffenhalle. Auf der Ostseite zur Mühle hin befindet sich eine rund zwei Meter breite Nischenöffnung, vermutlich ein unterer Burgeingang. Die sechs bis acht Meter hohe und ebenfalls Buckelquaderverblendete äußere Umfassungsmauer bildet heute die Basis der Schlossbauten. Der Bergfried hat im inneren Mauerwerk des Erdgeschosses eine nordwärts gerichtete Öffnung. Diese ist Zugang zu einem schmalen, zur Donau führenden Geheimgang, der wohl liegend oder kriechend genutzt wurde.