Kouba tire son nom du mot arabe koubba qui signifie coupole, dôme. Hadj Pacha, qui exerçait l'intérim du commandement de la régence d'Alger, avait bâti en 1545 sur l'emplacement actuel de la ville une mosquée surmontée d'une coupole. La mosquée sera démolie plus tard pour la construction de l'église. L'origine du quartier de Kouba remonte aux premiers mois de l'occupation française quand, pour des besoins de défense de la capitale, il a été procédé à l'établissement de deux champs retranchés : Kouba et Dely Ibrahim. On accédait à Kouba par les sommets Mustapha supérieur et par le ravin de la Femme sauvage, pour aboutir au village indigène appelé par la suite le «Vieux-Kouba». En 1832, on construisit près du camp retranché du village indigène, un nouveau village et on y installa vingt-trois familles allemandes. Mais presque toutes les concessions attribuées furent abandonnées. En 1835, l'administration coloniale comble ces vides en donnant les terres délaissées à des colons français initialement installés dans la Mitidja. Ces nouveaux arrivants, ayant trouvé à Kouba la sécurité et un village tout construit, se mirent au travail avec ardeur. Quelques français de souche achetèrent de vastes concessions. L'un d'entre eux prend alors l'initiative de lotir ses terres pour les louer à des Mahonnais, gens de vie sobre accoutumés au travail de la terre. Ils plantent les premiers cépages de vignes de roussillonnais. En 1836, Kouba est érigée en commune de plein exercice. La première école est créée à Vieux-Kouba en 1841. En 1844, Kouba compte une quarantaine de fermes. En 1851, une maison du village fut aménagée en église. Monseigneur Pavy en fit la bénédiction solennelle, le 9 novembre de la même année. En 1890 Monseigneur Lavigerie céda une partie de la propriété du séminaire à la commune de Kouba pour la construction de nouvelles habitations et c'est sur une partie de ces terrains qu'a été édifiée l'église actuelle qui fut inaugurée le 3 avril 1892.
