以色列地區足球協會成立於1928年，次年加入國際足聯。1948年以色列建國，同年開始參加國際足球比賽。以色列地處亞洲，在亞洲足聯主辦的亞洲盃足球賽、亞洲運動會足球錦標賽和亞洲足球俱樂部冠軍盃賽這三項賽事的頭幾屆，以色列隊均有不俗的表現。在亞洲盃賽上，以色列隊獲得過第一屆亞軍、第二屆亞軍、第三屆冠軍、第四屆季軍；在亞運會上，以色列隊獲得第七屆亞軍；在亞洲俱樂部冠軍盃賽上，以色列隊特拉維夫哈波埃爾隊獲得第一屆冠軍、第三屆亞軍，以色列特拉維夫馬卡比隊獲第二屆冠軍、第四屆冠軍。
　　1974年阿拉伯國家足球協會聯盟成立，它標志阿拉伯足球的全面崛起，因此作爲阿拉伯世界的公敵的以色列在1976年亞洲足聯被開除了會員資格。此後以色列足協由國際足聯直接領導。1950年以來，它參加了歷次世界盃預選賽。
　　第四屆和第五屆世界盃預選賽，以色列隊被分在歐洲區，小組沒有出線。第六屆世界盃預選賽，以色列隊被分在亞洲與非洲賽區第2組，以色列隊因土耳其隊棄權，不戰而勝進入下一階段比賽。埃及和蘇丹都拒絕同以色列隊比賽，所以他們之間的比賽也未進行。以色列隊一場未踢，卻連升三級，輕易地取得代表亞、非地區到瑞典參加決賽的資格，這引起各國輿論的普遍反對。世界盃賽組織委員會在瑞士蘇黎世召開緊急會議，采用抽簽的方式，結果威爾士抽中與以色列隊比賽，威爾士隊兩戰均以2比0勝以色列隊。
　　第九屆世界盃預選賽，以色列隊被分在亞洲與大洋洲區，先後力克新西蘭隊和澳大利亞隊，獲得了到墨西哥參加決賽階段比賽的權利。在墨西哥的比賽中，他們出人意料地分別以1比1和0比0逼和瑞典隊和意大利隊，但以0比2負於烏拉圭隊，從而未能進入1/4決賽。
　　第十四屆世界盃預選賽，以色列隊被分在大洋洲區，兩平澳大利亞隊，力克新西蘭隊，成爲地區勝者。在與南美洲第2組勝者哥倫比亞隊進行的本屆世界盃賽最後一張入場券的爭奪中，以0比0、0比1惜敗。
　　作爲國際足聯的直屬會員，以色列忽而被編入歐洲區比賽，忽而又被編入大洋洲區比賽。實事求是地說，把以色列編入大洋洲區比賽，一個在北半球，一個在南半球，顯然是不妥當的，特別是第十四屆世界盃預選賽，以色列隊在取得大洋洲區的晉級資格後，還要與南美洲的哥倫比亞隊交鋒，更是一個在東半球，一個在西半球，顯然更爲荒誕了。因此，國際足聯從第十五屆世界盃預選賽起，將以色列正式編入歐洲區比賽。