Arapça’da saray, sarayın harem kısmı veya hükümdarın tahtının bulunduğu bölüm, çardak, oda, köşk yüksekçe yer, meclisin baş tarafı, en şerefli kısım gibi anlamlara gelen mihrâb, zamanla camilerde imamın bulunduğu yer için kullanılmıştır.
Mihrap kelimesi Kur’ân-ı Kerîm’de 4 yerde geçer. Bunlardan üçünde [Âl-i İmrân 3/37, 39; Meryem 19/11] Hz. Zekeriyyâ’nın mâbeddeki özel mekâna giriş çıkışından ve orada namaz kılışından diğerinde ise [Sâd 38/21] Hz. Dâvûd’un mâbeddeki özel bölmesinden ve aralarındaki ihtilâfı çözmesi için iki kişinin ona gelişinden söz edilir. Âyetlerdeki mihrabın mâbedde hususi bir mekânı ifade ettiği anlaşılmaktadır.
Kur’an-ı Kerim’de Sebe sûresinin bir ayetinde geçen [Sebe 34/13] ve mihrabın çoğulu olan mehârîb: “mâbedler, saraylar, kaleler” gibi mânalarla açıklanmıştır.
İslâmiyet’in ilk yıllarında kıble yönü renkli bir çizgi, bir kaya parçası veya alçı bir levha ile belirtilmekteydi. Hz. Peygamber(sallallahu aleyhi ve sellem)’in mescidde namaz kıldırdığı yer bilinmekteydi. Ömer b. Abdülazîz Medine valiliği yaptığı sırada Mescid-i Nebevî’yi imar ederken Resûl-i Ekrem(sallallahu aleyhi ve sellem)’in namaz kılarken durduğu yere niş tarzında bir mihrap ilâve ettirmiş, burası Resûlullah(sallallahu aleyhi ve sellem)’in mihrabı olarak anılmaya başlamıştır. [Makrîzî, II, 247; Semhûdî, s. 370, 383]
İmamın cemaat tarafından rahatça görülebilmesi için bazı yerlerde mihrabın tabanı camii zemininden biraz yüksekte yapılmaktadır. Mihrap süslemelerinde ise taş, alçı, ahşap, çini ve tuğla gibi malzemeler kullanılmaktadır. Mihraplarda genellikle bilinen Bakara 2/114 ve Âl-i İmrân 3/37 sûreleri dışında Âyetü’l-kürsî ile kelime-i tevhid yazıları da yaygın biçinde kullanılmaktadır.