La mosquée est située dans la cité de Djenné, au Mali, dans la plaine alluviale du Bani, affluent du Niger. Un premier édifice fut construit en ce lieu au XIIIe siècle, mais la construction actuelle date seulement de 1907. Marquant le centre de l'agglomération de Djenné, c'est aussi l'un des symboles les plus remarquables de l'Afrique subsaharienne. De concert avec la ville de Djenné elle-même, elle est inscrite depuis 1988 à la liste du patrimoine mondial de l'Unesco. La Grande mosquée de Djenné se distingue des autres mosquées d'Afrique occidentale en ce qu'elle a été construite en un lieu vierge de tout autre édifice religieux antérieur : cet endroit était précédemment occupé par un palais. Les autres mosquées ont été construites habituellement à la place d'édifices pyramidaux coniques, en pisé ou en pierre, censés représenter les esprits protecteurs des ancêtres. Des experts en architecture islamique tels que Labelle Prussin pensent que ces constructions coniques furent intégrées dans la conception des mosquées dans tout le Mali, et considèrent que la Grande mosquée de Djenné en est l'exemple le plus révélateur. Le site a été occupé par des mosquées depuis la construction de la première, qui fut ordonnée en 1240 par Koi Kunboro, avant que Djenné ne devienne l'une des principales villes des empires du Mali puis du Songhai. Le conquérant peul Amadou Lobbo, qui enleva Djenné à la suite d'une guerre sainte, fit démolir cette mosquée. Il estimait que le bâtiment d'origine, qui était un palais transformé, était trop riche. La seule partie de ce bâtiment qui ait été conservée est un enclos contenant les tombes de chefs locaux. Une restitution de l'édifice, à l'identique, fut terminée en 1896, mais fut ensuite démolie à nouveau pour faire place au bâtiment actuel.
