Когда и при каких условиях было основано этот первое милосердное заведение, призванное помогать германцам? По этому поводу существуют самые разные мнения. Отсутствие или неточность источников практически не позволяет установить, что является правдой в легендах и тайнах, которыми окутано создание госпиталя Святрй Марии Иерусалимской. Порою за точку отсчета берут великодушный поступок одного немецкого купца, вероятно, родом из Бремена или Любека, осевшего с женой в Святой земле в конце XI столетия. Он якобы приютил в своем доме германского рыцаря, который, получив тяжелую рану во время штурма крестоносцами Иерусалима в 1099 г., замертво рухнул на одной из улиц старого города. Супруги взяли на себя заботу о раненом рыцаре и вернули его к жизни. В последующие годы они взялись помогать больным или раненым соотечественникам, будь то рыцари или простые паломники. С согласия патриарха Иерусалима Стефана это неофициальное милосердное учреждение превратилось в настоящий госпиталь с пристройкой для жилья, в некотором роде гостиницу для германских паломников, вверенное покровительству святой Девы Марии Иерусалимской. Госпиталь и средства, которые щедрые супруги завещали после смерти братьям, т. е. монахам, стал с тех пор именоваться госпиталем Святой Марии Немецкой в Иерусалиме.
Документ, достоверность которого ставится под сомнение, выданный папой Целестином II 9 декабря 1143 г. и упомянутый в булле
«Тогда как после освобождения Святой город был населен христианами и многочисленных германских паломников, приезжавших в Иерусалим, понимали, ведь они разговаривали на родном языке, Божией милостью один достойный и благочестивый немецкий купец, проживавший в городе с супругой, основал на свои собственные средства приют, предназначенный для бедных и больных германцев. Поскольку множество его соотечественников обращались только к нему, так как говорили на одном с ним языке, то, с согласия патриарха, он построил часовню рядом с приютом во имя Пресвятой Марии, Матери Божией. И тогда многие люди, прежде всего германцы, отказались от своего добра и, побуждаемые любовью к ближнему и самоотверженностью, посвятили себя служению людям». Мариан Тумлер предлагает принять дату «1118 год», предложенную Жаком де Витри, хотя не исключает дату более позднюю — 1128 г. Если принять дату 1118 г., то формально не окажется противоречий с легендой об акте милосердия со стороны супружеской пары, приютившей у себя рыцаря, которая впоследствии — приблизительно двадцать лет спустя — создала милосердное заведение.
Меньшее, что теперь можно сказать, — то, что об истоках изначальной организации госпиталя Св. Марии Немецкой в Иерусалиме известно очень немногое. Зато достоверно, что в середине XII в. в Иерусалиме существовал госпиталь и дом для помощи и лечения германских паломников; при нем состоял немецкий приор, а само учреждение было вверено власти госпитальеров ордена Св. Иоанна.