Sous le règne du roi Idris Ier, appelé Moulay Idris, fils de Abdoullah (surnommé Al-Kâmil), fondateur du royaume du Maroc, plusieurs familles arabes de la région de l'Ifriqiya et de l'Andalousie ont émigré vers le Maroc. Parmi les exilés arabes qui s'y installèrent, se trouvait une femme pieuse d'origine kairouanaise nommée Fatima Bent Mohammed El Fehri surnommée Oum Al Banine (la mère des deux fils). A la mort de son époux et de ses frères, elle a hérité d'une immense fortune qu'elle voulait consacrer à une œuvre pieuse pour mériter la bénédiction de Dieu en bâtissant une mosquée. Elle acheta un terrain nu, à proximité de son domicile à la Adoua des Quaraouiyine. Elle commença le projet de construction le premier samedi du mois de Ramadhan, an 245 de l'hégire. Tous les matériaux nécessaires à la réalisation de la maison de Dieu étaient extraits d'une carrière établie sur le terrain même. L'eau était fournie par un puits creusé également au même lieu. Oum El Banine mit toute sa foi et tous ses efforts à réaliser pleinement ce lieu de prières et de méditation. La sainte femme jeûnait tout le temps que duraient les travaux et lorsqu'ils étaient achevés, elle adressait des actions de grâce à Dieu. L'historien Ibn Khaldoun disait, à ce propos, qu'en édifiant ce monument valeureux, cette femme pieuse donnait aux souverains de l'époque une leçon riche en termes de dévotion et de bienfaisance loyale. Tout au long des siècles, la mosquée Al Quaraouiyine voyait son architecture évoluer et s'agrandir. Elle devint, du Xe siècle au XIIe siècle, un important pôle d'enseignement et une des premières universités islamiques les plus prestigieuses au monde. Au XIIe siècle, toute une série de noms parmi les plus grands vont être associés d'une manière ou d'une autre à la Quaraouiyine : les grands précurseurs du soufisme, tels Abou Medyene, Abdeslam Ben Mchich Alami, le philosophe Ibn Rochd (Averroès), le géographe Al Idrissi mais aussi Maimonide et Ibn Khaldoun pour ne citer que ceux-là. La mosquée Al Quaraouiyine dispense, depuis le Moyen-Age, un savoir religieux, littéraire et scientifique de haut niveau.
