以色列地区足球协会成立于1928年，次年加入国际足联。1948年以色列建国，同年开始参加国际足球比赛。以色列地处亚洲，在亚洲足联主办的亚洲杯足球赛、亚洲运动会足球锦标赛和亚洲足球俱乐部冠军杯赛这三项赛事的头几届，以色列队均有不俗的表现。在亚洲杯赛上，以色列队获得过第一届亚军、第二届亚军、第三届冠军、第四届季军；在亚运会上，以色列队获得第七届亚军；在亚洲俱乐部冠军杯赛上，以色列队特拉维夫哈波埃尔队获得第一届冠军、第三届亚军，以色列特拉维夫马卡比队获第二届冠军、第四届冠军。
　　1974年阿拉伯国家足球协会联盟成立，它标志阿拉伯足球的全面崛起，因此作为阿拉伯世界的公敌的以色列在1976年亚洲足联被开除了会员资格。此后以色列足协由国际足联直接领导。1950年以来，它参加了历次世界杯预选赛。
　　第四届和第五届世界杯预选赛，以色列队被分在欧洲区，小组没有出线。第六届世界杯预选赛，以色列队被分在亚洲与非洲赛区第2组，以色列队因土耳其队弃权，不战而胜进入下一阶段比赛。埃及和苏丹都拒绝同以色列队比赛，所以他们之间的比赛也未进行。以色列队一场未踢，却连升三级，轻易地取得代表亚、非地区到瑞典参加决赛的资格，这引起各国舆论的普遍反对。世界杯赛组织委员会在瑞士苏黎世召开紧急会议，采用抽签的方式，结果威尔士抽中与以色列队比赛，威尔士队两战均以2比0胜以色列队。
　　第九届世界杯预选赛，以色列队被分在亚洲与大洋洲区，先后力克新西兰队和澳大利亚队，获得了到墨西哥参加决赛阶段比赛的权利。在墨西哥的比赛中，他们出人意料地分别以1比1和0比0逼和瑞典队和意大利队，但以0比2负于乌拉圭队，从而未能进入1/4决赛。
　　第十四届世界杯预选赛，以色列队被分在大洋洲区，两平澳大利亚队，力克新西兰队，成为地区胜者。在与南美洲第2组胜者哥伦比亚队进行的本届世界杯赛最后一张入场券的争夺中，以0比0、0比1惜败。
　　作为国际足联的直属会员，以色列忽而被编入欧洲区比赛，忽而又被编入大洋洲区比赛。实事求是地说，把以色列编入大洋洲区比赛，一个在北半球，一个在南半球，显然是不妥当的，特别是第十四届世界杯预选赛，以色列队在取得大洋洲区的晋级资格后，还要与南美洲的哥伦比亚队交锋，更是一个在东半球，一个在西半球，显然更为荒诞了。因此，国际足联从第十五届世界杯预选赛起，将以色列正式编入欧洲区比赛。