Dans leur stratégie de conquête du Sud algérien, les Français établiront, en 1852, au lieu dit Djelfa, un poste militaire à la rencontre des routes de Laghouat, d'Aflou et de Boussaâda. Le plan de la ville, conçu par les militaires, est de forme géométrique. C'est d'abord un ensemble de logis destiné à abriter les soldats et entouré d'une muraille pour protéger l'ensemble des incursions des tribus. Un caravansérail y est installé ainsi qu'une maison destinée au bachagha des Ouled Naïls. L'ensemble aurait été construit en une quarantaine de jours par la colonne expéditionnaire du général Yusuf sous les ordres du maréchal Randon. Napoléon III l'érigera, en 1861, en commune avec la création de logements pour civils. Cependant, le nombre de colons sera réduit, à cause, sans doute, de la rudesse du climat et Djelfa, tout au long de la colonisation, gardera un cachet militaire prononcé. Djelfa était connue, avant la création de la ville, comme un centre de regroupements des tribus, elle est encore aujourd'hui un marché aux bestiaux important des Ouled Naïls. Le nom, Djelfa vient de l'arabe djalafa et signifie «enlever, écorcher» d'où djalîf, «écorché, nu, dépourvu de végétation, en parlant du sol». On connaît aussi un dérivé, djilf, au sens de «palmier nain». C'est sans doute la nudité du site, logé dans une dépression, qui a justifié ce nom.
