伊斯蘭教不是從興起之時便立即流行於土耳其人或突厥民族，阿拔斯王朝在751年對中國唐朝的怛羅斯戰役中取得勝利，但沒有強迫突厥人放棄其所信奉的薩滿教和佛教，從而確保阿拔斯王朝在中亞的影響力。只是在戰後，許多突厥人部落，包括塞爾柱王朝及奧斯曼王朝的祖先烏古斯人在往後幾個世紀才漸漸轉改奉伊斯蘭。在十一世紀，他們將這種宗教帶入安那託利亞。
奧斯曼帝國容許基督徒及猶太人(古蘭經所說的“有經人”)保持原有信仰，而不接納多神教，與沙里亞法規一致。奧斯曼帝國會向非穆斯林徵收吉茲亞稅(保護稅)。
在米利特製度下，非穆斯林人和穆斯林一樣都是帝國的臣民，但不受伊斯蘭信仰及法律約束或管制，例如東正教米利特受民法大全約束，民法大全早在拜占庭帝國時實施了九百年。作爲帝國最大的非穆斯林族羣，東正教米利特在政治及商業上能享有特權，但須繳納較穆斯林爲高的稅項。
1453年，穆罕默德二世征服君士坦丁堡後允許當地的基督徒在繳納特別稅款的情況下留居，並運行他們原有的體制，如君士坦丁堡普世牧首。1461年，穆罕默德二世設君士坦丁堡亞美尼亞牧首。在此前，拜占庭帝國視亞美尼亞教會爲異端，禁止他們在君士坦丁堡城牆內興建教堂。1492年，摩爾人及塞法迪猶太人被西班牙宗教裁判所驅逐出西班牙，奧斯曼帝國蘇丹巴耶塞特二世派遣以凱馬爾·萊伊斯(Kemal Reis)爲首的艦隊護送他們，並讓他們在奧斯曼帝國定居。
奧斯曼帝國與君士坦丁堡東正教教會的關係大致和平，縱使偶爾也會有一些針對希臘教會的壓迫性政策。教會的組織制度依舊不變，在緊密的監督下可獨自行事，除了1821年至1831年爆發的希臘獨立戰爭及19世紀初奧斯曼帝國君主立憲的崛起。其他的東正教教會，如保加利亞東正教教會，被解散並將其置於希臘教會的管轄，直到1870年阿布杜勒阿齊茲設立保加利亞主教，並恢復保加利亞教會的自治權。
奧斯曼帝國的猶太人社區亦有設立米利特，歸哈哈姆·巴舍(Haham Başı，猶太人教會領袖)或首席拉比(Chief Rabbi)'所管;亞美尼亞東正教社區則歸一名總主教所管，其他社區亦然。
