Pendant le califat de 'Othman (رضي الله عنه

, un Yéménite, nommé 'Abdoullah Ibn Saba fut celui qui provoqua la plus importante scission au sein de la communauté musulmane, en étant à l'origine d'un nouveau mouvement: le Chiisme (ou "Chi'at-'Ali", parti de 'Ali).
Abdoullah Ibn Saba a déclaré son Islam au temps de 'Othman (رضي الله عنه

. Il s'est volontairement associé aux Musulmans et a voyagé de villages en villes, de Damas à Kufa jusqu'en ةgypte, en propageant parmi les Musulmans que Muhammad (صلى الله عليه و سلم

serai ressuscité comme Jésus (عليه السلم

.
Il disait: "Comme sont étranges les gens qui déclarent que `Issâ reviendra mais qui rejettent l'idée que Muhammad reviendra, et il mérite plus une seconde venue que `Issâ!"
Il se serait également basé sur une fausse interpretation du verset: {Celui qui t'a prescrit le Coran te ramènera certainement là où tu (souhaites) retourner}. (28/85)
Abd Allâh b. Saba' a aussi prétendu que `Alî b. Abî Tâlib était le Mahdî. Il disait: "Si vous m'apportez son cerveau en 70 morceaux, je ne croirais pas qu'il est mort."
Il a déclaré que `Alî reviendrait et emplirait la terre de justice tout comme elle a été emplie d'iniquité. Cette allégation est par la suite retombée sur Muhammad b. al-Hanafiyyah, qui était le fils de `Alî b. Abî Tâlib. Un de ceux qui prétendaient que Muhammad b. al-Hanafiyyah était le Mahdî fut un irakien nommé al-Mukhtâr b. Abî `Ubayd qui déclarait que les anges venaient le voire.
Il a aussi dit de 'Ali (رضي الله عنه

qu'il est l'exécuteur testamentaire du Prophète (صلى الله عليه و سلم

et a été privé de son droit divin par 'Othman (رضي الله عنه

.
Peu à peu, leur nombre commença à grandir, surtout parmi les habitants de Madâ'in, ville où Abdoullah Ibn Saba avait été exilé. Cependant, comme 'Ali (رضي الله عنه

, qui était alors Calife, rencontrait à la même époque un certain nombre de difficultés pour unir les musulmans et éliminer tout foyer de division politique, il ne put prendre des mesures supplémentaires contre Ibn Saba et ses adeptes. Ce qui les permit d'affermir leur mouvement, qui ne cessa d'exister à travers l'histoire, jusqu'aujourd'hui. Ce qui commença ainsi comme une revendication politique se muta peu à peu en un nouveau mouvement religieux.
Ils furent qualifiés de shî'ah (partisans) pour avoir pris le parti de 'Alî - que Allâh l'agrée - et pour l'avoir préféré à tous les autres compagnons.