自元朝以来，日本倭寇就开始烧扰中国的沿海，据他们自己说，是为了报复元朝两次讨伐日本，然而实际上，却是为了抢掠财富。
明朝建立后，元朝在明军的北伐中灭亡，照说日本人烧扰中国沿海应该失去了理由。然而凶残的倭寇却不管，仍然照常攻掠中国沿海各城。1368年是明朝建立的第一年，倭寇就大举入寇蓬州，造成了惨重的杀戮。
为了制止日本海贼的入侵，朱元璋决定先派遣使者赴日本，告知他们元朝已经灭亡，并要求日本向大明朝贡。1368年11月，朱元璋派遣使者前往日本，结果刚到五岛地区就被倭寇劫杀。随后，朱元璋再派杨载率领使团，携带大明的诏书去往日本。朱元璋在诏书中向日本提出三点要求：其一：明朝已建立，日本应立即来朝贡；其二：就算不肯入贡，请管好自己的子民，禁止倭寇来华；其三，如果你们放任倭寇烧然沿海，别怪我朱某人不客气。
当时，日本当权者是怀良亲王，他看过诏书后，竟立即处死了使者团七人中的五人，并囚禁杨载和另外一个使节长达三个月，然后才放回中国。听闻使者被杀，朱元璋虽然很生气，但还是按捺住了怒火。毕竟，蒙元的残余势力才是明朝最主要的敌人。
到了1376年，倭寇仍然对中国沿海烧扰不止，于是朱元璋再次修书于怀良亲王，措辞非常严厉，警告怀良亲王，从中国扬帆去日本只要5天，你们给我小心一点。从此时起，朱元璋心中就已经有了讨伐日本的念头。结果怀良亲王不仅不收敛，反而还回了封书信，史称《日本国王怀良回书》，全文以四六骈文的形式，洋洋洒洒上千字，其主要内容是：你大明那么厉害，怎么不来打我们呢？怀良甚至说：“（我怀良与陛下）相聚于贺兰山前，聊以博戏，臣何惧哉？”
很显然，怀良亲王是在向朱元璋挑衅。在朱元璋看来，如果这样都不惩罚日本人，简直是没天理。于是他颁布命令，东部沿海大修船只，并选派得力兵将，准备出兵进攻日本。
听说朱元璋准备讨伐日本，群臣们却纷纷反对，他们认为日本偏居海岛之地，人贫地瘠，不值得攻打；而且日本周边风高浪急，海上有许多不可预测之事，若贸然攻打，恐怕会有很大损失。当年元世祖忽必烈两次讨伐日本，都以碰到了台风，以损兵折将而告终，所以讨伐日本应当慎重。到了后来，甚至连朱元璋的外甥、开国名将李文忠也来劝谏。
考虑到群臣的意见，朱元璋只能放弃征日之役。毕竟对于讨伐日本，即使是朱元璋也拿不定主意。然而朱元璋还是说：“此贼若不除，未来他们可能会祸乱中华！”
虽然不主动进攻日本，但是朱元璋仍然通令沿海各地严阵以待，防备倭寇入侵。当倭寇入侵的战报被呈交到朱元璋面前，他大笔一挥，用十分通俗的语言告诫自己的子民：“奉天承运，皇帝昭曰，告诉百姓每(们)，准备好刀子，这帮家伙来了，杀了再说。钦此。”
最终，朱元璋不仅不征讨日本，还将其列为“十五个不征之国”之一。虽然朱元璋很有远见地看到了日本人的威胁，到他没想到日本到后来竟然能嚣张到大举入侵中国的地步。若当年朱元璋真的讨伐了日本，铲除了这个毒瘤，说不定中国就能少牺牲很多人了。
