L'origine della moschea sia come spazio distinto che come struttura è legata alle restrizioni religiose e alla conquista musulmana. Le piccole comunità di conquistatori, unite dalla nuova fede e mescolate alle popolazioni di diverse religioni, hanno pregato in queste moschee, dove ascoltavano i "recitatori della Rivelazione" e le esortazioni a conquistare in nome di Allah.
La sacralità è la dimensione essenziale della moschea, uno spazio chiuso separato dal mondo profano. Questo attributo si esprime attraverso il termine arabo haram, che significa qualcosa sia vietato che separato. Prima dell' Islam, il termine indicava enclavi riservate situate intorno a santuari o pozzi. Questa zona era protetta dalla violenza. Secondo la tradizione, haram indica qualsiasi luogo santo dell'Islam, a partire dalle tre moschee sacre. Gli haram più importanti sono tutti situati nella Terra delle "Due Qibla-s", la penisola arabica con la Mecca e Medina, e nella Palestina ( con Gerusalemme).
La moschea è il luogo per l'' "abbandono del sé" e la glorificazione di un Dio trascendente in uno spazio sacro, guidati dalla qibla (la direzione della Mecca, "Qibla dell'universo", Corano 3-90), un punto focale verso il quale sono rivolti il ​​corpo e lo spirito dei credenti adoranti. Dopo l'egira, la prima qibla è stata fondata da Maometto in direzione del "sacro tempio" di Gerusalemme e successivamente verso la Mecca, dopo la violenta rottura nelle relazioni con le tribù ebraiche di Medina. Etimologicamente parlando, il termine Masjid è il luogo di prostrazione in cui completare un atto di adorazione. Si tratta in primo luogo di un posto in cui pregare. Secondo un hadith: "Tutta la terra è una moschea". Ogni luogo di preghiera è una masjid. Si trovano moschee di diverse dimensioni, architettura e aspetto: piccoli oratori nei quartieri e sale di preghiera, private o pubbliche, che vengono considerate moschee nel momento in cui in esse vengono completate le preghiere canoniche.
La sacralità del luogo è conferito dal comportamento e dal rituale della separazione dal mondo profano: le donne si coprono, tutti i fedeli eseguono le abluzioni e si tolgono le scarpe prima di entrare. A volte, la sacralizzazione del luogo è collegato alla presenza di reliquie, il corpo di un santo o anche oggetti preziosi, Corani e poesie, come quelle dello sheikh Amadou Bamba, nella moschea di Touba, Senegal.
I musulmani hanno dovuto "inventare" la moschea. Niente nel Corano aveva dettato un modello architettonico. Il termine "moschea" si trova spesso nel libro, ma non fa riferimento ad alcun tipo specifico di architettura. La moschea è stata progettata sulla base dell'architettura della casa, il Dar, uno spazio chiuso comprendente una corte e l'abitazione propriamente detta. I musulmani hanno trasformato la casa del Profeta a Medina nell'archetipo della moschea. Questo spazio privato è stato ridisegnato in base al contesto storico e culturale, nel rispetto della tradizione dello spazio chiuso di una casa, e del suo ruolo sociale: la moschea è un Djami (ciò che riunisce), un luogo per la preghiera, la predicazione e studio. Diversi elementi (decorazione, architettura, materiali, ecc) sono stati presi in prestito per soddisfare le esigenze di una nuova comunità unita sotto la stessa Legge.
Non ci sono oggetti rituali necessari per la pratica del culto. L'Islam non ha dato vita a un arte liturgica, ma ha riunito alcuni elementi "forti": il minareto, un simbolo di fede e di potere (elemento decorativo che appare sotto gli Omayyadi) e soprattutto il mihrab o le strutture per l'esecuzione delle abluzioni.
In letteratura pre-islamica, mihrab aveva il significato di "rientranza" o "nicchia". Il mihrab appare vuoto in contrasto con la nicchia di una sinagoga, che ospita l'arca della Legge e i cinque rotoli della Torah. Quale indicazione visiva, mostra la direzione della qiblah, ma le prime moschee non avevano un mihrab. Il grande sufi Ibn 'Arabi (morto nel 1240) ha definito la qibla come l'indicazione che aiuta a raggiungere la "Sakinah", la pace, la serenità e la manifestazione della presenza divina. Il mihrab è la porta che conduce alla luce, "Dio guida alla Sua luce chi vuole."(Corano 24,35). Nel vocabolario mistico, la nicchia simboleggia anche la grotta, che nasconde la realtà celeste che sarà svelata all'iniziato .
Alcuni autori attribuiscono una funzione commemorativa al mihrab.Sarebbe uno "stampo cavo con la presenza del Profeta". Il primo mihrab fu costruito sotto gli Omayyadi durante la ricostruzione della moschea di Medina (707-709) in ricordo del luogo in cui Maometto si trovava a pregare e predicare. Aveva anche la funzione di un "libro d'oro", le cui iscrizioni si ricollegavano alla professione di fede,al messaggio, alla missione del Profeta e all'unicità di Dio. C'erano anche versetti coranici riguardanti la luce e delle benedizioni in onore del committente.