Cuộc khủng hoảng trong Hồi giáo xảy ra vào năm 632 khi đấng Tiên tri tạ thế. Chính Muhammad cũng chưa bao giờ cho mình khác hơn là một người trần thế - tách biệt với những người khác chỉ vì Người là sứ giả của Thượng đế và là người truyền đạt lời của Thượng đế, nhưng chính bản thân của Người không mang tính thần thánh hoặc bất tử. Tuy nhiên, đấng Tiên tri lại không di ngôn rõ ràng là ai sẽ kế vị mình để lãnh đạo cộng đồng Hồi giáo và cai trị cái nhà nước Hồi giáo mới tạo dựng, và người Hồi giáo cũng mới chỉ có vỏn vẹn một ít kinh nghiệm chính trị của đất nước Ả-rập trước thời kỳ Hồi giáo để theo mà thôi. Sau một hồi tranh luận căng thẳng gay cấn, họ đồng ý cử Abu Bahr, vốn là một trong những người đầu tiên cải sang đạo Hồi và được nhiều người kính trọng, làm Khalifa, người đại diện cho đấng tiên tri – tức là do tình cờ mà một định chế lịch sử trọng đại chế độ Caliph (Caliphate) đã được thiết lập.
Ngay từ khi mới bắt đầu có định chế Caliphate, đã có một nhóm tín đồ cho rằng chính Ali, là cháu gọi đấng tiên tri bằng chú và cũng là con rể của người, mới xứng đáng kế vị hơn là Abu Bakr hoặc các Caliph sau này. Sự ủng hộ của họ một phần rõ ràng là do họ tin tưởng Ali có những phẩm chất phù hợp với công việc - một phần có lẽ là do niềm tin về quyền thừa kế chính đáng thuộc về dòng họ của đấng tiên tri. Nhóm này được gọi là Shi’atu ‘Ali, đảng của Ali, về sau được gọi đơn giản là Shi’a. Qua thời gian, đây là nguyên nhân xung đột tôn giáo quan trọng nhất trong đạo Hồi.
Ban đầu, Shi’a chỉ là một phe nhóm chính trị - những người ủng hộ một ứng viên để giành quyền lực, không hề có sự khác biệt về học thuyết tôn giáo và cũng không liên quan đến nội dung tôn giáo nào khác hơn là những gì nằm trong bản chất của thẩm quyền Hồi giáo về mặt chính trị. Nhưng chẳng bao lâu sau, xuất hiện những thay đổi quan trọng trong thành phần của tín đồ cùng với bản chất của kinh sách. Đối với nhiều tín đồ, dường như cộng đồng và nhà nước Hồi giáo đã có một bước ngoặt sai lầm; thay vì là một xã hội lý tưởng như đấng Tiên tri và những giáo đồ mộ đạo đầu tiên vạch ra, thì lại cho ra đời một đế quốc được cai trị bởi một thiểu số quí tộc tham lam, vô sỉ; thay vì bình đẳng và công lý, thì lại được cai trị bằng bất công, đặc quyền và thống trị. Theo quan điểm này, nhiều tín đồ cho rằng khi nào quyền lực được giao cho ruột thịt của đấng tiên tri thì mới có thể phục hồi được sứ điệp chân chính, chính gốc của đạo Hồi.
Vào năm 656, sau khi vị Caliph thứ ba - Uthman - bị các tín đồ Hồi giáo nổi loạn ám sát, cuối cùng chức vụ Caliph cũng được trao cho Ali - nhưng thời gian trị vì của ông này quá ngắn, bị bất hòa và nội chiến xâu xé. Đến lượt Ali bị ám sát vào năm 661, chức Caliph lại lọt vào tay Mu’awiya phe đối nghịch, nhà Umayya; họ này giữ quyền đến gần một thế kỷ.
Phái Shi’a không tàn lụi sau khi Ali chết. Nhiều nhóm Hồi giáo tiếp tục bày tỏ sự trung thành với con cháu của Đấng Tiên tri, mà họ coi là các nhà lãnh đạo hợp pháp của cộng đồng Hồi giáo. Càng ngày những đòi hỏi này, và sự hậu thuẫn do họ xướng lên lại càng mang đậm tính tôn giáo, thậm chí cả tính cứu chuộc nữa. Nhà nước Hồi giáo, ở dạng lý tưởng, là một thể chế chính trị, được hình thành và gìn giữ theo luật thánh. Quyền lực tối cao của nhà nước là do Thượng đế trao; còn Caliph, người giữ quyền lực, được giao nhiệm vụ gìn giữ đạo Hồi và tạo điều kiện cho tín đồ Hồi giáo có được một cuộc sống tốt đẹp theo nghĩa Hồi giáo. Trong xã hội này, không hề có sự phân biệt giữa thế tục và tôn giáo - về mặt luật pháp, pháp quyền, hoặc về thẩm quyền. Nhà thờ và nhà nước chỉ là một, với Caliph là người đứng đầu. Ở nơi mà cơ sở của bản sắc và sự gắn kết trong xã hội, các giềng mối trung thành và nghĩa vụ đối với nhà nước, tất cả đều được thai nghén và diễn đạt bằng các thuật ngữ tôn giáo, thì sự phân biệt quen thuộc của phương tây giữa tôn giáo và chính trị - giữa các thái độ và các hoạt động tôn giáo và chính trị - đều trở nên không thực tế và vô nghĩa. Khi sự thất vọng về chính trị - có lẽ cũng do xã hội quyết định - tìm được cách biểu lộ dưới hình thức tôn giáo; thì sự bất bình về tôn giáo sẽ dẫn tới những hàm ý chính trị. Khi sự chống đối của một nhóm người Hồi giáo không còn mang tính địa phương hoặc chỉ nhằm vào người đang cầm quyền - khi họ tỏ ý thách thức cái trật tự hiện có và lập ra một tổ chức nhằm thay đổi nó, thì sự thách thức của họ là một nền thần học và tổ chức của họ sẽ là một phe phái. Trong cái trật tự Hồi giáo theo chế độ Caliph được xây dựng dựa trên thần quyền, thì không có con đường nào khác để cho họ hình thành một công cụ hoặc đề ra một học thuyết ngoài những hành động cá nhân và các mục đích tức thời.
Trong thế kỷ đầu tiên khi Hồi giáo bành trướng, đã xảy ra nhiều sự căng thẳng dẫn đến những bất mãn, nhiều nỗi bất bình và khát vọng được biểu lộ dưới hình thức bất phục và phản kháng có tính phe phái. Khi bành trướng, Hồi giáo đã mang lại cho cộng đồng nhiều tín đồ mới qua việc cải đạo, nhưng những người này mang theo cùng với họ cái quá khứ, các quan niệm về tôn giáo và thái độ từ đạo Cơ đốc, Do thái, và Ba tư, mà những người Ả rập Hồi giáo thuở lập đạo chưa hề biết. Những kẻ cải đạo mới, dù là tín đồ Hồi giáo, nhưng lại không phải là người Ả-rập, tính quí tộc ít hơn; họ bị đám quí tộc Ả-rập chiếm đa số qui định cho họ địa vị kinh tế và xã hội thấp kém hơn khiến cho họ cảm thấy bị đối xử bất công, và sẵn lòng gia nhập các phong trào muốn cật vấn về tính hợp pháp của cái trật tự đang tồn tại. Chính bản thân những người Ả-rập đi chinh phục cũng không thoạt khỏi được những bất bình này. Những người Ả-rập mộ đạo than phiền cho rằng các Caliph và các nhóm cai trị can thiệp quá nhiều vào việc đời; người Ả-rập du mục phản ứng vì quyền lực của họ bị xâm phạm - và nhiều người khác phải chịu đựng những sự phân biệt sâu sắc về xã hội và kinh tế nẩy sinh từ khi có công cuộc chinh phục và đám nhà giàu xuất hiện, cho nên cũng bắt đầu chia sẻ những niềm đau và hy vọng với nhóm tín đồ mới. Nhiều nhóm tín đồ đã từng có các truyền thống về tính hợp pháp về chính trị và tôn giáo - người Do thái và Cơ đốc tin vào tính thiêng liêng và sự thắng lợi cuối cùng của dòng dõi vua David, thông qua Vị Sứ đồ được công nhận qua phép xức dầu, sự mong đợi của tín đồ Bái hỏa giáo (Zoroastriasm) về một đấng tên là Saoshyans, là đấng cứu chuộc sẽ xuất hiện vào ngày tận thế từ một mầm giống thánh thần của đấng Zoroaster. Một khi cải sang đạo Hồi, họ bị lôi cuốn ngay bởi những nguyện vọng mà Đấng Tiên tri và các đồ đệ rao giảng, những nguyện vọng qua đó sẽ chấm dứt được những nỗi bất công của cái trật tự hiện hành và hoàn thành được lời hứa hẹn Hồi giáo.
Trong quá trình nhóm Shi’a chuyển đổi từ một phe nhóm thành một giáo phái, có hai biến cố đóng vai trò quan trọng, cả hai đều bắt nguồn từ những đợt khởi loạn bất thành của những người Shi’ite nhằm lật đổ chế độ Caliph dòng Umayyad. Cuộc khởi loạn thứ nhất, xảy ra vào năm 680, do Husayn, là con của Ali và Fatima (con gái của đấng Tiên tri), cầm đầu. Vào ngày thứ 10 tháng Muharram, tại Karbala thuộc Iraq, Husayn, cùng với gia đình và các thuộc hạ đã đụng độ với lực lượng của Umayyad và bị đàn áp không chút thương xót. Có khoảng 70 người bị chết trong cuộc tàn sát; chỉ còn một đứa bé bệnh hoạn là Ali ibn Husayn sống sót vì bị bỏ lại trong lều. Cái chết vì đạo đầy bi thảm này của con cháu đấng tiên tri, và sau đó là sự hối lỗi và dày vò đã nhóm lên một một nhiệt tình tôn giáo mới trong nhóm Shi’a, ngày nay lại được khơi dậy với những chủ đề đầy sức thuyết phục về sự đau khổ, sự mê đắm và sự chuộc lỗi.
Điểm ngoặt thứ hai xảy ra vào cuối thế kỷ thứ 7 và đầu thế kỷ thứ 8. Vào năm 685, có một kẻ tên Mukhtar, vốn là người Ả-rập ở Kufa, dấy loạn trên danh nghĩa một người con của Ali tên là Muhammad ibn al-Hanafiyya, là Imam, người lãnh đạo hợp pháp và chân chính của Hồi giáo. Mukhtar bị đánh bại và bị giết vào năm 687, nhưng phong trào của ông ta vẫn còn. Khi Muhammad ibn al-Hanafiyya chết vào khoảng năm 700, một số người cho rằng chức vụ Imam được truyền cho người con của ông ta. Những người khác lại cho rằng ông ta thực sự chưa chết nhưng đã ẩn thân tại vùng rừng núi Radwa, gần Mecca; từ nơi này vào thời điểm được Thượng đế cho phép, ông ta sẽ quay lại và đánh thắng các kẻ thù của mình. Một Imam mang tính cứu chuộc như thế được gọi là Mahdi, người được giác đạo chân chính.
Các biến cố này là khuôn mẫu của những chuỗi dài các phong trào cách mạng tôn giáo. Có hai khuôn mặt trung tâm trong một phong trào như thế: đấng Imam, đôi khi cũng được gọi là Mahdi, người lãnh đạo hợp pháp xuất hiện để tiêu diệt sự chuyên chế bạo ngược và xây dựng công lý, và vị da’i, người hiệu triệu, làm nhiệm vụ thuyết giảng – và lắm khi cũng là người soạn ra - thông điệp của đấng Mahdi, chiêu tập các giáo đồ, và để cuối cùng là người đưa họ đến thắng lợi hoặc tử vì đạo. Vào giữa thế kỷ thứ 8, một phong trào như thế thậm chí đã giành được một thành công tạm bợ, lật đổ dòng Umayyad và đưa dòng Abbasid, là một nhánh khác mà cả đấng Tiên tri và Ali đều là thành viên - lên cầm quyền nhưng sau khi thắng lợi, các Caliph dòng Abbasid trở mặt không thừa nhận giáo phái và vị da’i đã đưa họ lên mà lại chọn con đường ổn định và kế tục trong tôn giáo và chính trị. Những hy vọng đầy tính cách mạng bị tan vỡ đã làm dấy lên những nỗi bất bình mới, mạnh mẽ hơn cũng như một loạt mới các phong trào cực đoan và cuồng tín.
Trong thời gian đầu, phần giáo lý và tổ chức của phái Shi’a đều bị thay đổi thường xuyên. Có vô số những kẻ tiếm danh xuất hiện, những người này đưa ra với nhiều lý lẽ khá thuyết phục khác nhau, xưng là con cháu hoặc thuộc hạ của dòng dõi đấng Tiên tri và sau khi tô vẽ thêm một số chi tiết mới mang tính huyền thoại của đấng cứu chuộc mà các tín đồ mong ngóng, thì họ biến mất tăm dạng. Các cương lĩnh của họ đi từ dung hòa, mang tính chống đối ít nhiều với triều đại cầm quyền, đến cực đoan tôn giáo ngược lại phái chính thống và đi rất xa với những giáo lý Hồi giáo đã được nhiều người chấp nhận. Một đặc điểm thường được tái lập nhiều lần là sự tôn sùng những người sùng đạo – Imam hoặc da’i - những người được cho rằng có quyền lực phi thường, và đưa ra những giáo lý phản ánh các tư tưởng thần bí và khai giác (illuminationist) rút ra từ thuyết ngộ đạo (Gnosticism), Mani giáo và nhiều tư tưởng dị giáo có nguồn gốc Ba tư và Do thái-Cơ đốc. Những tín ngưỡng mà họ rao giảng bao gồm sự đầu thai, sự hóa thánh của các Imam và thậm chí đôi khi của các da’i nữa, và luận thuyết tự do - tức là vứt bỏ mọi luật lệ và ràng buộc. Tại một số nơi – như đối với nông dân và dân du mục tại Ba-tư và Syria - xuất hiện nhiều tôn giáo mang tính địa phương rõ rệt, kết quả của sự tương tác giữa giáo lý Shi’a với những tục thờ cúng và tín ngưỡng đã có từ trước tại địa phương.

Cương lĩnh chính trị của các chi phái này rõ ràng: lật đổ chế độ hiện hành và dựng nên Imam do họ chọn. Còn cương lĩnh xã hội hoặc kinh tế thì khó nhận diện hơn, mặc dù các hoạt động của họ rõ ràng là có liên quan đến những khát vọng và nỗi bất bình xã hội và kinh tế. Một vài ý niệm trong các khát vọng này có thể được suy ra từ các truyền thống sứ đồ cứu rỗi đang thịnh hành thời ấy, cho thấy những nhu cầu mà người ta mong đợi khi gặp vị Mahdi. Nói chung, vị này có nhiệm vụ là phục hồi đạo Hồi chân chính, và ra sức truyền bá đức tin đến khắp các nơi trên thế giới. Cặn kẽ hơn, vị Mahdi có nhiệm vụ mang lại công lý - "đem công lý và công bằng trải đầy khắp thế giới đang bị sự chuyên chế và bạo ngược hoành hành", đem lại sự bình đẳng giữa kẻ yếu và người mạnh, đem lại hòa bình và sung túc.
Lúc đầu các thủ lãnh mà nhóm Shi’a phục tùng là bà con của đấng tiên tri thay vì dòng dõi trực hệ của người, tức là con cháu của Fatima, con gái của người; một số ít người trong đám này, kể cả những người tích cực nhất, lại không thuộc vào dòng dõi Fatima - một số người thậm chí không phải là dòng dõi của Ali, nhưng thuộc những nhánh khác trong tộc họ của đấng tiên tri. Nhưng sau khi nhà Abbasid thắng lợi rồi phản bội, nhóm Shi’a gói gọn niềm hy vọng của họ vào hậu duệ của Ali, và đặc biệt là đám con cháu do cuộc hôn nhân của Ali với con gái của đấng tiên tri. Càng ngày người ta càng nhấn mạnh đến tầm quan trọng của dòng dõi trực tiếp từ đấng tiên tri, và cái lý lẽ được coi có cơ sở là từ khi đấng tiên tri tạ thế, trên thực tế chỉ có một dòng dõi duy nhất được coi là Imam hợp pháp, những vị này mới là thủ lãnh chân chính của cộng đồng Hồi giáo. Đó là Ali, hai con của Ali là Hasan và Husayn, và hậu duệ của Ali Zayn al-Abidin là con của Husayn sống sót sau thảm kịch tại Karbala. Ngoài Husayn ra, nhìn chung các Imam này đều lánh xa các hoạt động chính trị. Trong lúc những kẻ tiếm danh (claimants) khác loay hoay một cách vô vọng nhằm lật đổ chế độ Caliph bằng vũ lực, thì những vị Imam hợp pháp lại thích đóng vai trò đối nghịch về mặt pháp lý đối với vị Caliph đang cầm quyền. Họ đóng đô tại Mecca hoặc Medina, là những nơi xa các trung tâm chính trị lớn, và tuy họ vẫn tiếp tục đòi quyền lợi nhưng không làm gì nhiều để đẩy mạnh những đòi hỏi đó. Ngược lại, đôi khi họ cũng thừa nhận và thậm chí còn ra tay giúp đỡ và làm cố vấn cho dòng Umayyad, và sau này là các nhà lãnh đạo dòng Abbasid trong đế chế. Theo truyền thống mộ đạo dòng Shi’a, thái độ này của các Imam hợp pháp chỉ có tính tôn giáo; tính thụ động của họ chứng tỏ lòng mộ đạo và nghĩ đến kiếp sau, họ phục tùng vì họ theo nguyên tắc Taqiyya.
Taqiyya có nghĩa là sự cẩn trọng, sự thận trọng, biểu thị cái học thuyết miễn trừ trong Hồi giáo - tức là, khi lâm vào tình trạng bị áp bức hoặc hăm dọa, tín đồ có thể được miễn phải thực hiện một số bổn phận tôn giáo. Nguyên tắc này được định nghĩa và giải thích theo nhiều cách, và (điều đó) đối với người của phái Shi’a cũng không có ngoại lệ; tuy nhiên, chính họ là người thường phải chịu cảnh áp bức và ngược đãi nhiều nhất, cho nên nguyên tắc này được họ xướng ra nhiều nhất. Nguyên tắc này được áp dụng để biện minh cho việc dấu kín những tín ngưỡng có nhiều khả năng gây sự thù địch đối với các nhà cầm quyền hoặc đối với nhân dân chung quanh; nó được đưa ra nhằm ứng phó với tính chiến đấu mang tính tự sát đã gây nên cho họ biết bao chết chóc trong các cuộc khởi loạn hoàn toàn vô vọng.
Nửa đầu thế kỷ thứ 8 là thời kỳ hoạt động nhất của nhóm Shi’a cực đoan. Đã xuất hiện vô số các phái và chi phái, nhất là trong đám dân hỗn tạp tại miền nam Iraq và vùng bờ biển vùng vịnh Ba tư. Giáo lý của họ không khác nhau nhiều cho nên thường hay xảy ra sự chuyển đổi từ chi phái hoặc thủ lãnh này sang chi phái hoặc thủ lãnh khác. Các nguồn tài liệu Hồi giáo nêu ra tên nhiều nhà thuyết giảng, một số có nguồn gốc xuất thân tầm thường, dấy loạn rồi bị giết, và cho rằng chính họ là người đã đưa ra những giáo lý mà sau này mang tính riêng biệt của nhóm Ismaili. Có một nhóm coi việc giết người bằng thòng lọng thắt cổ là một nhiệm vụ tôn giáo - một hình thức tương đương với nhóm Thuggee ở Ấn độ, và báo hiệu cho nhiều vụ "ám sát" vào những thế kỷ sau đó. Ngay cả trong đám theo giáo lý ôn hòa, cũng có những nhóm vũ trang cố tìm cách chiếm đoạt quyền lực bằng vũ lực, rồi bị đánh bại dưới tay dòng Umayyad và về sau bị quân đội của dòng Abbasid đánh bại và tiêu diệt.