1939年，美国总统罗斯福任命马歇尔为陆军参谋长。之后不久第二次世界大战爆发，马歇尔开始积极备战，为美国日后卷入战争做准备。这天，马歇尔到陆军第一总部视察，检验士兵们的备战情况。得知高级将领马歇尔前来视察，士兵们都很兴奋，他们纷纷拿出自己平日最好的水平来表现。
在观看射击汇报时，一名英姿勃发的年轻士兵信心满满地拿起了枪，一连串准确无误的射击博得了士兵们的阵阵掌声，马歇尔也满意地连连点头。然而，在最后的关键环节，出于紧张，他出现了很明显的失误。这时，陪同马歇尔视察的部队负责人狠狠地瞪了他一眼。这名年轻士兵小心翼翼地望着马歇尔，脸上写满了不安。没想到，马歇尔面不改色，甚至还微笑着对年轻士兵鼓掌，并单独会见了那名年轻士兵，悄悄说了一番话，笑着在他的肩膀上拍了几下。
1941年12月，美国参加第二次世界大战后，马歇尔看着手下新任的作战计划处处长，不由觉得面熟。“报告长官，当初您说悄悄话的士兵就是我呀。”听到手下这么说，马歇尔才猛然想起这件事。而这名手下最终凭着出色的军事才能立下赫赫战功，成为美国的五星上将，他就是艾森豪威尔。
每每提及马歇尔的悄悄话，艾森豪威尔总是感动不已：“他对我说，一个被高级将领当众点名批评过的士兵还会有未来的成就。”艾森豪威尔之所以能取得如此成就，除了与他出色的才能有关外，马歇尔宽宏的肚量和真诚的鼓励也起到了关键的作用。