Einen sehr schönen Blick auf Belecke hat man von der Külbenkapelle aus. „O crux ave spes unica MDCCCLXIII“ können die Besucher über der inneren Eingangstür zur Kapelle lesen: „Heiliges Kreuz, einzige Hoffnung sei gegrüßt, 1863“.Der damalige Pfarrpropst Carl Böckler hat diese Kapelle errichten lassen und 1863 eingesegnet.Ursprünglich war die neue Kapelle als Ersatz für die damals marode Kreuzkapelle geplant gewesen. Die Kreuzkapelle wurde dann von der Stadt renoviert und die Külbenkapelle von der Propsteigemeinde erbaut. Die Külbenkapelle ist der Schmerzhaften Muttergottes gewidmet. Propst Böckler beabsichtigte, hier noch eine Klause für einen Eremiten zu errichten, der dreimal täglich den „Engel des Herrn“ läuten sollte. Doch hierfür erhielt er keine Erlaubnis der kirchlichen Behörde. Nach Böcklers Tod verwahrloste die Kapelle. 1891 nahm Pfarrpropst Sengen sich ihrer an und erneuerte die Kapelle, die 1894 Endstation eines neu errichteten Kreuzweges am Kapellenweg wurde. Die Kreuzwegstationen sind Stiftungen Belecker Familien. Unter Pfarrpropst Schlechter wurden diese 14 Stationen um die Propsteikirche aufgestellt.
Zwischenzeitlich war die Kapelle offenbar ungenutzt, denn sie galt 1927 als noch nicht benediziert, also nicht feierlich eingesegnet. 1927 beantragte der Leiter des Klemensheimes, Pfarrer Bernhard Zimmermann, die Külbenkapelle wegen der Platznot in der Kreuzkapelle, für Gottesdienste seiner Schuleinrichtung nutzen zu dürfen. Sie war größer als die Kreuzkaplle und lag relativ nah am Studienheim. Dem Bittgesuch gab der Paderborner Generalvikar statt. So wurde die Kapelle durch den Dechanten, Pfarrer Braukmann aus Altenrüthen, im Jahre 1927 benedifiziert. Das Klemensheim nutzte sie bis 1931.
Im Ersten Weltkrieg musste die kleine Kapellenglocke abgegeben werden. Pfarrpropst Schlechter schenkte 1933 der Kapelle eine neue Glocke, die noch heute täglich morgens und abends läutet. Ihre Inschrift lautet: „Gegossen von H. Humpert; Arte renata sono clagens Scholastica honores ac somin populos alliciente Anno 1933, Schlechter, Pfarrpropst“. (Künstlerisch wieder hergestellt zu Ehren der Heiligen Scholastica, um das Volk zu rufen im Jahre 1933, Schlechter, Pfarrpropst).
Nachdem die Külbenkapelle im Zweiten Weltkrieg missbräuchlich genutzt worden war, wurde sie in der Nachkriegszeit ausgebessert, instandgesetzt und am 23. August 1964 in einem Festgottesdienst neu benediziert. Eine umfassende Innen- und Außenrenovierung erhielt die Kapelle Ende der 1970er Jahre.