1872年，在東京開成學院任職的英語教授Horace Wilson把棒球帶進了日本。他可能萬萬沒想到，有一天日本的棒球會超越美國，成為世界第一。在2014年12月31日，這件事竟然成真了。
從那時起，這兩個國家一直霸佔WBSC棒球世界排名的頭兩名。這次日本在世界十二強錦標賽擊敗韓國奪下第一，美國僅拿第四，日本保住了世界第一的地位。
日本為了成為世界第一，花了很長一段時間發展棒球。20世紀20年代，日本才開始發展職業棒球。當時，正力松太郎組織了一支明星隊對抗由Babe Ruth和Lou Gehrig為首的美國全明星隊。這場比賽獲得巨大成功，加速了日本職業棒球的成立（1936年）。後來到了1950年，這個聯盟一分為二，並同屬日本職業棒球聯盟（NPB）。
日本棒球的另一項里程碑是由藤田信雄與Rod Dedaux共同催生的日本—美國大學系列賽，這一系列比賽成為1964東京奧運前的表演賽。
1972年，日本首度參與國際級的棒球賽事，當時他們參加了世界業餘棒球賽（世界盃棒球賽前身）。四年後，日本奪下銅牌。1980年，世界業餘棒球賽在日本舉辦，當時大家已經開始把世界業餘棒球賽稱作世界盃棒球賽（非官方名稱），當年日本再度拿下第三。
日本後來還分別在1994、2003、2007年拿下銅牌，最好的成績則是在1982年在韓國舉辦的比賽中奪下銀牌。
另一方面，日本參與了每一屆有棒球的奧運。在1984年洛杉磯奧運的表演賽，日本擊敗美國奪下優勝，震驚各國。後來，日本在1988年的首爾奧運中拿下第二名。
2000年悉尼奧運和2008年北京奧運，日本都沒能站上頒獎台。1996年亞特蘭大奧運，日本輸給了古巴，奪下銀牌。1992及2004年奧運日本也都拿下銀牌。
雅典奧運時，日本隊風靡一時，但在四強賽意外0-1敗給了澳大利亞。當時，還沒助紅襪隊奪下世界大賽冠軍的松阪大輔苦吞敗投。後來，他幫助日本奪下世界棒球經典賽二連霸（2006及2009年），並連莊MVP。
2015年世界十二強錦標賽，日本再次踢到鐵板。眾望所歸的日本隊又一次在四強賽敗陣下來。韓國在第八局逆轉擊敗日本，最終奪下優勝，而日本則拿下第三。
日本曾兩度拿下洲際盃棒球賽（現已停辦）優勝（1973及1997年）；在U-18賽場上，日本也四度拿下第二名（1982、2004、2013、2015）。
日本在亞洲棒球錦標賽17度奪冠，並在亞運會上拿下4面金牌。
