日本足球最初的成功出現在1968年，他們在墨西哥奧運會上取得了男足銅牌。不過真正的崛起始於1993年J聯賽的建立，日本足球職業化的進程大大促進了該國水平的提升。
　　1994年，日本在預選賽最後一輪輸給伊拉克，職業球員組隊首次沖擊世界盃宣告失敗，日本球迷稱之爲“多哈之痛”。但該隊在1998年首次成功沖入世界盃，盡管他們三場全負。2002年，日本作爲主辦國之一，在韓日世界盃上有不錯的表現，小組賽2勝1平打進了16強。2005年，日本在中立地擊敗朝鮮後連續第三次參加了德國世界盃，不過這次他們1平2負的成績小組賽沒有出線。
　　2010年南非世界盃資格賽，日本1-0擊敗烏茲別克後第四次獲得了世界盃參賽資格。他們也是除了東道主南非之外第一只獲得世界盃決賽資格的球隊。日本所在的E組，他們擊敗了喀麥隆和丹麥，一球小負後來的亞軍荷蘭，以小組第二進入了16強；他們以0-0踢平了巴拉圭，最後點球被淘汰出局，依然將世界盃最佳成績停留在16強之上。
　　2014年世界盃，日本和哥倫比亞、希臘和科特迪瓦分在一組。僅在第二場0-0逼平希臘，最終只積1分的日本，小組墊底出局。
　　日本在亞洲盃上成績優異，近7屆賽事奪得4個冠軍，1992年及2000年擊敗沙特阿拉伯、2004年擊敗中國以及2011年擊敗澳大利亞。
　　日本也是美洲之外唯一一支參加美洲盃的亞洲球隊，曾應邀在1999年參加美洲盃。
　　2018年世界盃亞洲區預選賽，日本輕松打進最後的十二強小組賽。十二強小組賽日本遭遇挑戰，澳大利亞、沙特一直在積分上和日本纏鬥著。直到倒數第二場，日本主場2-0拿下直接競爭對手澳大利亞，提前一輪成功鎖定小組第一，才艱難晉級世界盃決賽圈。這也是日本第6次參加世界盃決賽階段的比賽，同時也是連續的第6次，自從1998年日本參賽以來，還未曾缺席。