恰在这时，峰回路转，陆军部宣布为保定军校短训班招考学员。天赐良机，蒋介石参加报考，并榜上有名。在该校指导训练学员的大多数教官都是日本人，蒋介石的日语学习正好派上了用场。
1907年冬天，保定开始从学员中选拔去日本留学的预备人员。蒋介石毛遂自荐，说自己去过这个国家，学过日语；随即，他和张群等40人被选中。
1908年，年轻的蒋介石第二次踏上了日本土地，进入东京振武学校学习。在振武期间，他曾给表兄单维刚寄过一张照片，照片的背面，写着一首血气方刚的小诗：
腾腾杀气满全球，力不如人万事休！
光我神州完我责，东来志岂在封侯！
在东京振武学校蒋介石军事学的好与不好姑且不论，但在这里，他结识了日后仕途上的恩师——陈其美，成为蒋介石此次日本之行最大的收获。
陈其美是追随孙中山的革命者，在上海金融巨头和帮会头目中颇有名气，此时正留洋日本。他比蒋介石大九岁，谙熟秘密帮会的运作，经商方面的经验也很丰富。与陈其美相识，在蒋介石这个年轻的浙江人心目中播下了希望的种子，他梦想能够借此在生活中顺利找到自己的位置，做一番事业。