Godefroy de Bouillon fut désigné roi de Jérusalem par ses pairs, titre qu’il refusa, préférant porter celui d’Avoué du Saint-Sépulcre. Il mit en place l’ordre des chanoines du Saint-Sépulcre qui avait pour mission d’aider à toutes les tâches le patriarche de Jérusalem. Un certain nombre d’hommes d’arme, issus de la croisade, se mirent alors au service du patriarche afin de protéger le Saint-Sépulcre. Une institution similaire constituée de chevaliers, appelés chevaliers de Saint-Pierre (milites sancti Petri), fut créée en Occident pour protéger les biens des abbayes et églises. Ces chevaliers étaient des laïcs, mais ils profitaient des bienfaits des prières.

Par extension, les hommes chargés d’assurer la protection des biens du Saint-Sépulcre ainsi que de la communauté des chanoines étaient appelés milites sancti Sepulcri. Il est fort probable qu’Hugues de Payns intégra cette institution dès 1115.

Tous les hommes chargés de la protection du Saint-Sépulcre logeaient à l’hôpital Saint-Jean de Jérusalem situé tout près.

Lorsque l’ordre de l’Hôpital, reconnu en 1113, fut chargé de s’occuper des pèlerins venant d’Occident, une idée naquit : créer une milice du Christ (militia Christi) qui ne s’occuperait que de la protection de la communauté de chanoines du Saint-Sépulcre et des pèlerins sur les chemins de Terre Sainte, en proie aux brigands locaux.

Ainsi, les chanoines s’occuperaient des affaires liturgiques, l’ordre de l’Hôpital des fonctions charitables et la milice du Christ de la fonction purement militaire de protection des pélerins. Cette répartition trinaire des tâches reproduisait l’organisation de la société médiévale, qui était composée de prêtres (oratores), de guerriers (bellatores) et de paysans (laboratores).

C’est ainsi que l’ordre du Temple, qui se nommait à cette époque militia Christi, prit naissance.