O sile zakonów rycerskich stanowił dobrze zorganizowany system sprawowania władzy. Zakony były sprawnie zarządzane dzięki dyscyplinie opartej na bezwzględnym posłuszeństwie przełożonym. Hierarchia władzy u Krzyżaków była identyczna jak u templariuszy i joannitów. Na czele zakonu stał wielki mistrz. Wszyscy członkowie zakonu winni mu byli bezwzględne posłuszeństwo. Jednakże jego władza nie była absolutna. W najważniejszych sprawach zakonu musiał się on kierować postanowieniami kapituły generalnej. W jej skład wchodzili urzędnicy zakonu oraz mistrzowie krajowi. Kapituła generalna zbierała się we wrześniu każdego roku i decydowała między innymi o nadawaniu urzędów i darowizn. Rozrost zakonu doprowadził do tego, że w XV wieku zakon dzielił się na trzy grupy: niemiecką, pruską i inflancką. Pięciu dygnitarzy (głównych urzędników zakonu) było najbliższymi współpracownikami wielkiego mistrza. Byli oni wybierani przez kapitułę generalną i tworzyli coś w rodzaju rządu zakonnego. Do grupy tej należał wieki komtur. Był on zastępcą wielkiego mistrza a zarazem kierownikiem administracyjnym i gospodarczym zakonu. Sprawami wojskowymi zajmował się wielki marszałek. Wielki szpitalnik był odpowiedzialny za działalność charytatywną, oraz sprawy medyczne i sanitarne. Za odzież i częściowo ekwipunek odpowiadał wielki szatny. Zarządzaniem finansami i skarbcem zakonu zajmował się wielki skarbnik. Stan skarbu był tajemnicą nie tylko dla osób spoza zakonu, ale nawet dla samych braci. Pieczęć zakonu była również bardzo pilnie strzeżona. Była ona zamknięta w skrzyni, do której klucze mieli wielki mistrz, wielki komtur oraz wielki skarbnik, a otworzyć mogli ją tylko razem. Kolejne urzędy utworzono po przeniesieniu siedziby głównej zakonu do Prus. Wtedy powstał urząd mincerza zakonu, który był odpowiedzialny za produkcję i obieg monety krzyżackiej. Powołano też urząd wielkiego szafarza, który miał kierować handlem zakonnym (było dwóch szafarzy jeden w Malborku, drugi w Królewcu). W XIII wieku zakon miał posiadłości poza Królestwem Jerozolimskim. Były one zorganizowane w prowincje i zwane baliwatami. Zarządzali nimi komturowie krajowi. Baliwatami niemieckimi i częścią pozostałych zarządzał krajowy mistrz niemiecki. Istniały też urzędy mistrza krajowego Prus i mistrza krajowego Inflant. Baliwaty dzieliły się na komturie, czyli komendy, którymi zarządzali komturowie. Rezydowali oni w domach zakonnych lub zamkach-klasztorach. W Prusach i Inflantach komtur był zarazem zwierzchnikiem wojskowym i administracyjnym. Komturowi podlegał konwent. Powinno go tworzyć trzynastu braci-rycerzy (na wzór Chrystusa i dwunastu apostołów), jednak bywały także konwenty złożone z innej liczby braci.