梁启超4月底的那封电报发来后，林长民敏锐地意识到了问题之严重，挥笔写就《外交警报敬告国民》一文，发表在1919年5月2日的《晨报》上。

　　文中质问说：“此非我举国之人所奔走呼号求恢复国权，主张应请德国直接交还我国，日本无承继德国掠夺所得之权利者耶？”进而写道：“今果至此，则胶州亡矣！山东亡矣！国不国矣！”在文章的末尾，林长民发出号召：“国亡无日，愿合我四万万众誓死图之！”报纸一出，犹如丢下一枚重磅炸弹，广大民众的爱国热情顿时被激发起来，五四运动骤然爆发，并从北京向全国、从知识界向各社会阶层迅速扩散。

　　见此情形，5月21日晚，日本公使以“紧急”公文递交外交部，声言林长民文中的语言“有故意煽动之嫌”，且“迩来北京散布之传单，多以‘胶州亡矣！山东亡矣！’为题，传播各省，煽动实行排斥日货”，无理要求中方对林长民予以惩处。对于来自日本人的威胁，林长民毫不畏惧，他义正词严地指出：“长民愤于外交之败，发其爱国之愚，……激励国民，奋于图存，天经地义，不自知其非也。但无加危害于日本人之据，彼日本人绝无可以抗议之理由。”字字铿锵，掷地有声，表现出了一位爱国斗士的豪迈气概。

　　林长民留学日本多年，结交过许多日本朋友，曾言：“日本旧交，时有过访，各以国家利害反复辩论。”他想借助这种非官方的外交方式，尽可能扩大彼此的沟通和理解。后来，他感觉这种旧交之间的互动毕竟影响有限，于是“以至诚恳之意”，写了一篇《敬告日本人书》，围绕中日关系中的若干重大问题作了富有逻辑力量的条分缕析。针对日本人所谓“关系山东条约，吾国早经签字，不能翻异也”的论调，林长民指出：“呜呼！山东条约，果以何种形式何种手段而成立耶？余前告日本某君，称为手枪威吓迫定家产让彼之契约也。苟有机会，可以诉吾被胁者，安得禁止吾人之主张。”针对日本人所主张的“条约之尊严，与国际之信义”，他以历史事实为据，驳斥道：“若云信义，日本攻取青岛，当时即有交还吾国之宣言，并未附以条件也。民国四年交涉发生，从无条件交还，变为有条件矣，所谓信义者安在？”针对日本人所谓山东权利得自德国而非取之于中国的论调，林长民依据国际法原则，指出：“中德交战，条约消灭。日本承继关系，全无根据矣。”在该书篇末，林长民正告说：“愿君等痛下决心，一涤前慝。苟知其误，勿事迁延。果有以恢复吾全国最大多数人之情感，且予之以可信者百年之计，自然之利，岂在今日所得之下。”

　　林长民这篇《敬告日本人书》试图通过揭露日本统治者所做的无理不义之事来感召、唤醒日本民众，堪称公众外交史上的一篇雄文。后来，这篇文章被译成日文，一个时期在日本国内及驻华日本军方人士中引起了广泛重视。