Über die Entstehung der deutsch-rheinischen Provinz des Ordens, die später meistens die schwäbische Provinz genannt wurde, berichten zwei konkurrierende Überlieferungen. Danach haben Vertreter einer confraternitas von Eremiten und Eremitorien im deutschen Südwesten beim Generalkapitel in Buda 1340 um Aufnahme in den Orden gebeten, die ihnen gewährt wurde, oder um diese Zeit habe der Generalprior Nicolaus Teutonicus bei einer Reise in patriam suam Sueviam mit Hilfe deutscher Adliger sechzehn Klöster gegründet.8 Die genaue Datierung ist fraglich, da die ersten Erwähnungen von südwestdeutschen Paulinerkonventen erst 1351 einsetzen. Beide Überlieferungen brauchen sich aber nicht gegenseitig auszuschließen. Immerhin lassen sich an sieben Orten späterer Paulinerkonvente vorher regelungebundene Eremiten nachweisen. Die Bildung der Provinz, die erste im Paulinerorden, wird um diese Zeit erfolgt sein, da erstmals aus dem Jahre 1354 sich ein Siegel der fratrum heremitarum sancti Pauli primi heremite in Alamania erhalten hat.9 Insgesamt lassen sich im Zeitraum zwischen 1351 und 1437 zwanzig erstmals erwähnte oder gegründete Paulinerklöster im deutschen Südwesten und angrenzenden Gebieten feststellen. Die Pauliner waren in der schon dicht besetzten Klosterlandschaft „ein Orden der zweiten Stunde“.10 Die Stifter, meist mittlere und kleinere Herren, statteten die abseits von Siedlungen in ländlichen Gebieten gelegenen kleinen Konvente nur bescheiden aus, mit wenigen Ausnahmen wie die Klöster St. Oswald im Bayrischen Wald, Anhausen bei Schwäbisch Hall und Langnau nahe dem Bodensee. Im ersten Jahrhundert nach der Bildung der deutschen Provinz gingen bereits wieder sieben und damit ein Drittel der Klöster wieder ein, 1512 ein weiterer Konvent, mit der Ausnahme von St. Oswald wohl alle aus wirtschaftlicher Schwäche. Der Reformation und ihren Folgen fielen sechs weitere zum Opfer, so dass nach der Vereinigung von Argenhardt mit Langnau im 17. und 18. Jahrhundert nur noch die fünf Klöster Langnau bei Tettnang, Rohrhalden bei Rottenburg und Bonndorf, Grünwald und Tannheim im östlichen Schwarzwald existierten. In Langnau, dem größten Konvent, der eine kleine, ehemals benediktinische Grundherrschaft hatte übernehmen können, tagte regelmäßig das Provinzkapitel und residierte meist der Provinzialprior. Unter den Provinzen des Ordens zählten Istrien und Schwaben zu den kleinsten nach der Zahl der Ordensmitglieder. Im Jahr 1721 gehörten von den 699 Paulinern 250 zur polnischen Provimz, 161 zur ungarischen, 127 zur kroatischen, 80 zur österreichischen, 46 zur istrischen und 35 zur schwäbischen Provinz, nach ihrer Finanzkraft stand die schwäbische Provinz an zweitletzter Stelle, nach dem Durchschnittseinkommen eines Konvents aber mit 2408 fl. an dritter Stelle nach Polen und Ungarn. Die Zahl der schwäbischen Pauliner stieg im Laufe des 18. Jahrhunderts bis auf 50 Personen, etwa die Größe des Konvents eines mittleren oberschwäbischen Reichsstifts.11