La genèse de la mosquée comme espace particulier et comme édifice, est liée à des contraintes religieuses et aux conquêtes des musulmans : les petites communautés des conquérants, unies par la foi nouvelle et immergées au sein de populations de religions différentes y priaient. Ils y écoutaient les « récitants de la Révélation » et les exhortations à la conquête au nom d’Allâh.
La sacralité est la dimension essentielle de la mosquée, lieu clos et séparé du profane. Cet attribut est exprimé par le terme arabe haram quisignifie à la fois l’interdit et ce qui est séparé. Avant l'islam, le mot désignait des enclaves réservées autour de sanctuaires ou de puits. Cette aire était soustraite à la violence. Dans la Tradition le haram désigne tout lieu saint de l'islam, en tête figure celui des trois mosquées sacrées : « On ne se met en route que pour visiter trois mosquées, la mosquée sacrée, la mosquée lointaine et ma propre mosquée." Les haram-s majeurs sont tous situés dans la Terre des « Deux Qibla-s », l’Arabie avec La Mecque et Médine, et la Palestine (Jérusalem).
La mosquée est le lieu «d’abandon de soi » et de glorification d’un Dieu transcendant dans un espace sacralisé, orienté par la qibla (direction de La Mecque, « Qibla de l'univers », (Coran 3-90), le pôle vers lequel se tournent le corps et l'esprit des croyants prosternés. Après l'hégire, la première qibla aurait été instituée par Muhammad en direction du « Temple sacré » de Jérusalem puis vers La Mecque à la suite de la violente rupture avec les tribus juives de Médine. Étymologiquement masjid est le lieu de la prosternation pour accomplir un acte d’adoration. C’est d’abord un lieu de prière. Selon un hadîth : « La terre entière est une mosquée ». Tout lieu de prière est masjid. La mosquée se présente selon des tailles, des plans et des aspects différents : petits oratoires de quartiers, salles de prière privées ou publiques, considérés comme des mosquées dès lors que des prières canoniques s’y accomplissent.
La sacralité du lieu lui est conférée par des comportements, par des rites de séparation avec le monde profane : se voiler ou se couvrir pour les femmes et pour tous les fidèles, accomplir des ablutions, se déchausser avant l'entrée. Parfois, la sacralisation du lieu est liée à la présence de reliques, du corps d’un saint ou même simplement d'objets précieux, Corans, poèmes, comme ceux du cheikh Amadou Bamba, dans la petite mosquée de Touba au Sénégal.
Les musulmans ont dû « inventer » la mosquée. Rien dans le Coran ne leur avait dicté un modèle architectural. Le terme de « mosquée » se retrouve souvent dans le Livre mais ne se réfère à aucune architecture spécifique. Bien des éléments ont été empruntés (décoration, architecture, matériaux...). La mosquée répond aux besoins d’une nouvelle communauté unie par une même Loi. Elle a été conçue sur le modèle de la maison, le Dâr, espace clos et bâti qui comprend la cour et l’habitation proprement dite. Les musulmans font de la maison d'habitation du Prophète à Médine l’archétype de la mosquée. Cet espace privé a été remodelé selon le contexte historique et culturel en respectant la tradition de l’espace clos de la maison et son rôle social : la mosquée est un lieu djâmi` (rassembleur), un lieu de prière, de prêche et d'étude.
On n'y trouve pas dans la mosquée, d’objets rituels liés à la pratique cultuelle. L’islam n’a pas donné naissance à un art liturgique, cependant il réunit quelques éléments « forts », minaret - symbole de foi et de puissance, élément symbolique et décoratif qui apparaît sous les Umeyyades -, et surtout le mihrâb ou des commodités pour les ablutions.
Dans la littérature pré‑islamique mihrâb signifie « rentrant », « creux », « niche ». Le mihrâb est un vide à la différence de la niche de synagogue qui abrite l’arche de la Loi et accueille les cinq rouleaux de la Torah. Aide‑mémoire visuel », il matérialiserait la direction de la qibla mais les premières mosquées de l'islam n’avaient pas de mihrâb. Le grand soufi Ibn ‘Arabî (m. 1240) définit la qibla comme une orientation qui permet d’atteindre la Sakinah, à la fois paix, sérénité et manifestation de la présence divine. Le mihrâb est la porte qui conduit vers la lumière : « Dieu conduit vers sa lumière celui qu’il veut. » (Coran 24, 35) Dans le vocabulaire mystique, la niche symbolise aussi la caverne, celle qui cache la réalité céleste qui sera dévoilée à l’initié.
Certains auteurs lui attribuent unrôle commémoratif. Il serait « le moule en creux de la présence du Prophète ». Le premier mihrâb aurait été édifié sous les Umeyyades lors de la reconstruction de la mosquée de Médine (707-709) en souvenir du lieu où se tenait Muhammad pour prier et prêcher. Il a aussi la fonction de « Livre d’or » dont les inscriptions sont en relation avec la profession de foi, le message, la mission du Prophète, l’unicité de Dieu. On y lit aussi des versets coraniques sur la lumière et des bénédictions en l’honneur du commanditaire.