La famille Le Tellier, issue de la bourgeoisie parisienne, doit son ascension vers le pouvoir à Mazarin. Michel Le Tellier associe très tôt son fils, le marquis de Louvois, aux activités du secrétariat d'État à la Guerre. Lorsque le Tellier se retire en 1672, Louis XIV conserve Louvois à la tête du ministère. Le marquis de Louvois (1639-1691) remplit ses fonctions sans interruption durant 30 ans (1661-1691). Après la mort de Turenne (1675), il reste seul maître de l'armée. Malgré les réticences de la noblesse et les problèmes financiers, cette longévité lui permet d'atteindre deux objectifs : donner au roi l'armée la plus puissante d'Europe et placer l'institution sous son autorité. Louvois met sur pied une armée à la fois plus nombreuse, mieux équipée et plus disciplinée. L'administration et les services de la Guerre sont considérablement développés. L'état des troupes et du matériel est contrôlé par un corps d'inspecteurs nommés par le roi (et Louvois).
Les effectifs de l'armée atteignent un niveau sans précédent (300 000 hommes au début de la guerre de la Ligue d'Augsbourg). Améliorer le recrutement, lutter contre les fraudes à l'effectif et diminuer les désertions très nombreuses passent par une amélioration de la vie et de la discipline militaires : les ordonnances fixent des soldes et des rations décentes, introduisent le port de l'uniforme et la construction des premières casernes. L'édification de l'Hôtel royal des Invalides, que Louvois supervise, va dans ce sens. Le recrutement se fait sur la base du volontariat mais à partir de 1688, Louvois institue les milices provinciales, une ébauche de conscription nationale, qui sont levées en cas de danger.
L'effort de rationalisation concerne également les matériels. Les frères Keller élaborent le canon classique français. Par ailleurs, le corps des artilleurs, jusque-là dévolu à des entrepreneurs privés, est militarisé. Les rangs de l'infanterie sont simplifiés par l'adoption du fusil à silex et la dotation de la baïonnette à douille mise au point par Vauban (1689).
Louvois impose quelques principes hiérarchiques pour l'avancement et le commandement opérationnel qui tentent de favoriser le mé?rite et la compétence. S'il ne peut abolir la vénalité des grades de colonel et de capitaine, la promotion des roturiers sans fortune est rendue possible par un cursus hors vénalité (gratuit). Les charges d'officier restent le quasi-monopole de la noblesse, mais elle doit remplir ses obligations et se plier à la discipline des armées sous peine de réprimande et de sanction. Les courtisans craignent ce personnage fort autoritaire qui a l'orgueil de sa fonction auprès du roi.
Grand travailleur, honnête, bon gestionnaire, Louvois acquiert une influence grandissante, empiète sur les autres départements ministériels et devient le rival de Colbert. Personnage intransigeant dès qu'il s'agit de la suprématie du roi de France, sa responsabilité est importante lors du sac du Palatinat (1689), du bombardement de Gênes et des annexions qui précédent la Ligue d'Augsbourg. De même, ce fervent chrétien, très hostile à la religion réformée, est à l'origine des dragonnades organisées pour obtenir la conversion des familles protestantes.
De son vivant, Louvois confie son espoir de reposer un jour aux Invalides. Louis XIV exauce ce souhait en accordant à la marquise de Louvois l'autorisation d'inhumer son époux dans l'église de l'institution. La cérémonie a lieu le 19 juillet 1691 en présence des invalides qui commentent l'événement : "Il fut notre père pendant la vie, et il veut reposer auprès de nous après sa mort". En 1699 cependant, son mausolée n'est toujours pas édifié. La famille, soupçonnant une manoeuvre de Mme de Maintenon, demande alors au roi la permission de transférer le corps en l'église du couvent des Capucines de la place Vendôme. Le transfert a lieu le 29 janvier 1699.