说起以色列人和阿拉伯人之间的冲突相信大家都不会陌生，然而可能令人出乎意料的是以色列人和阿拉伯人这对冤家对手却有着剪不断理还乱的联系：以色列人和阿拉伯人的祖先都是闪米特人（简称闪族人）。需要注意的是：闪米特人并不是单一民族，而是包含了母语属性有关联的一群民族的集合体。犹太人、阿拉伯人、腓尼基人、亚述人、巴比伦人等曾在中东两河流域生活过的民族都可以算是闪米特人的后裔。
以色列人和阿拉伯人从人种学和语言学的角度而言都是闪米特人的后代，所以就这个意义上可以将以色列人和阿拉伯人视为是来自于同一祖先的兄弟。不过他们之间的关系早就出了五服——他们甚至都不是五百年前的兄弟，而是分家至少两千余年了。他们之间的关系就好比同属斯拉夫族系的俄罗斯人和乌克兰人、同属突厥族系的土耳其人和哈萨克人。尽管出自同一族系，但早已形成各自不同的民族。
早在公元前1200年左右犹太人就开始在巴勒斯坦地区定居并曾在此建立了以色列王国（意味与神角力），不过那时这一地区还不叫巴勒斯坦，而是被称为“迦南”。根据《圣经》记载：这片土地是以一个名叫迦南的人命名的。《圣经》中将这一地区誉为“流淌着奶和蜜”的应许之地。大约在公元前931年左右古以色列王国分裂为北部的以色列王国和南部的犹大王国。
此后这两国分别被亚述和巴比伦所灭，犹太人一度沦为巴比伦人的奴隶，直到波斯帝国的居鲁士灭了巴比伦王国之后犹太人才得以重获自由并返回故土。相比巴比伦人，波斯人对犹太人足够宽容：只要犹太人服从波斯帝国的统治，波斯则给予其一定自治自主权。公元前515年（一说公元前516年）返回故土的犹太人重建了犹太教圣殿，因此这一时期又被称为犹太民族历史上的第二圣殿时期。
波斯帝国被马其顿的亚历山大大帝所灭后犹太人又成为亚历山大帝国的臣民。亚历山大延续了波斯帝国对犹太人相对宽松的统治政策：犹太人在臣服于帝国的前提下可以保持自己的宗教信仰、风俗习惯，也可以保留一定的自治权。亚历山大大帝死后他的帝国迅速分裂成为马其顿王国、叙利亚塞琉古王国、埃及托勒密王国三国，而犹太人所生活的迦南地区则长期处于塞琉古王国和托勒密王国的争夺之中。
公元前160年犹太人建立了以耶路撒冷为中心的哈斯蒙尼王朝（又翻译为马卡比王国）。这个王国周旋于塞琉古王国和托勒密王国两大强国之间，尽管不得不向两大强国称臣纳贡，但实质上相当于一个内政独立的藩属国。后来塞琉古、托勒密两大王国都被新兴的罗马人所征服，在这一过程中罗马人的扩张触角也延伸到了迦南地区：公元前63年罗马统帅庞培兵临耶路撒冷城下。
庞培在经过3个月左右的攻城战后拿下了耶路撒冷。罗马人攻陷耶路撒冷后展开了屠城行动，侥幸活下来的幸存者则被贩卖为奴。此后犹太国家沦为了罗马帝国的附庸，不过在形式上仍保留着一个国家的行政架构。从公元66年起犹太人不断掀起反抗罗马统治的起义。公元70年8月30日罗马人占领并焚烧了犹太人的圣殿。公元73年4月15日罗马人攻陷了犹太起义军固守的马萨达要塞。
此后犹太人又在亚历山大、塞浦路斯等地发动了几次反罗马起义，但最终都被罗马统治当局镇压下去。罗马皇帝哈德良为缓和犹太人的反抗情绪试图修复耶路撒冷的圣殿，然而他很快发现这样做与罗马帝国在当地长期以来所推行的文化政策在目标上并不一致，罗马总督的剥削与勒索也使修复圣殿的工作始终难以完成。哈德良最终变卦了：他不仅放弃重修圣殿，同时还禁止犹太人行割礼。