Ikosim (l'île aux mouettes), comptoir Phénicien au XIIe siècle avant J.-C., devient Icosium, sous l'occupation romaine. Au Ve siècle, la ville est dévastée par les Vandales. Au VIIe siècle, elle est occupée par des tribus nomades venant d'Arabie.
En 944, sur les ruines de l'ancienne cité, le prince berbère Bologhin fonde Alger (El- Djazaïr).
Après la conquête de l’Afrique du Nord au VIIIe siècle par les tribus musulmanes venues de la péninsule arabique, la loi coranique soumet les juifs et les chrétiens à la dhimma, terme technique du droit musulman désignant le régime juridique des non musulmans.
Le concept de dhimma qui s’applique aux juifs et aux chrétiens stipule un comportement de soumission envers les musulmans. Les dhimmi doivent respecter toute une série d’interdictions.
Du Proche-Orient à la péninsule ibérique, la circulation des hommes, des biens et des savoirs au sein du monde musulman favorise l’épanouissement de la littérature et de la tradition rabbiniques ainsi que la participation des juifs aux échanges commerciaux transsahariens et méditerranéens.
Les Almoravides, dynastie nomade, envahissent en 1086 le Maroc, les provinces entourant Alger puis l’Andalousie. Les Almohades reprennent "Al-Djazaïr" en 1151 aux Almoravides, ainsi que tout le Maghreb.
En 1146, les juifs de Tlemcen, Marrakech et Fez sont massacrés. Ainsi que ceux des communautés du Maghreb central (Algérie) et oriental (Tunisie et Tripolitaine). À la suite d’un pogrom en Espagne en 1391, des Juifs arrivent à Alger pour fuir les persécutions.
À partir du XIe siècle, les élans refondateurs des tribus berbères musulmanes cherchant à s’opposer à la Reconquista (reconquête des royaumes musulmans par les souverains chrétiens) en Espagne suscitent des attaques meurtrières sur les communautés juives et chrétiennes maghrébines qui se replient sur elles-mêmes et s’étiolent.
Le 20 mars 1492, Torquemada, chef inquisiteur de toute l’Espagne présente à Ferdinand et Isabelle son projet d’expulsion des Juifs d’Espagne. Les Juifs d’Espagne ont le choix entre la conversion et l’exil Le décret d’Alhambra met fin à 1500 ans de vie juive en Espagne
Jusqu’à début août, environ 185 000 Juifs choisiront la route de l’Exil, dont près de la moitié iront dans l’empire ottoman, 20 000 mourront en chemin, 50 000 se convertiront
Déclenchées par les persécutions chrétiennes de Séville, de Catalogne et de Majorque (1391), puis par les expulsions d’Espagne (1492) et du Portugal (1497), les vagues d’immigration séfarade bouleversent la géographie de la diaspora juive.
La majeure partie des réfugiés gagne le Maghreb et s’installe dans les régions de Fès, Tétouan et Tlemcen, et le long du littoral méditerranéen (Oran, Alger et Tunis).
Les exilés intègrent les communautés existantes. S’ils préservent leurs coutumes, ils adoptent rapidement les langues locales. Des rabbins séfarades (Isaac ben Sheshet
Barfat, Simon ben Tsemah Duran, Efrayim Encaoua), deviennent les rénovateurs et les guides spirituels du judaïsme maghrébin alors sur le déclin.