然而，就在西班牙内战进行当中，斯大林在苏联国内进行了大规模的肃反运动。其中，对军队干部特别是高级干部进行大规模清洗是这场运动的重点。一大批杰出的军事将领惨遭杀害，如图哈切夫斯基元帅、叶戈罗夫元帅、布留赫尔元帅先后被捕并被处决，就连在西班牙担任总军事顾问的扬·别尔津将军也被押回国内执行枪决。
值得庆幸的是，在这次大清洗中朱可夫没有遭殃。1937年秋，他从西班牙回国任骑兵第3军军长。7个月后，又调任骑兵第6军军长,不久便升任白俄罗斯军区司令员。1938年夏，经斯大林亲自批准，朱可夫随同苏联军事顾问团前往中国，了解日本军队的战略战术。同年冬，由于苏联国内军事领导力量的薄弱和日军对苏联远东地区压力的增加，朱可夫被斯大林召回国内。
哈勒欣一举成名
1939年5月，侵华日军为了扩大“满洲国“的疆域和试探远东苏军的实力，向哈勒欣河以东的蒙古地区发起进攻。
6月1日，已经是白俄罗斯军区司令员的朱可夫正在明斯克军区司令部里主持例行的首长司令部野战导演分析会，来自莫斯科的命令打断了他的发言，要他立刻去国防人民委员部，他连家也没回，就直接去了车站，赶上了去首都的头班列车。