2年后，黄时暄高小毕业，又考进湖南省立第三师范学校。在这里，他阅读了《马克思主义新说》、《新青年》、《新潮》等进步书刊，对革命理论有了更透彻的理解，思想觉悟不断提高。23岁时，黄时暄光荣地加入了中国共产党，党组织派他赴广州学习。临行前，为保密，他将自己的名字改为黄克诚。
黄克诚虽然有了大名，但他外号仍然不少，而且耐人寻味。他先是在国民革命军任政治教官，接着又随军北伐，后又参加湘南暴动，一直生活在烽火硝烟之中。长期的风餐露宿，辛苦劳顿，使他的身体遭到损害，染上了严重的气管炎，并反复发作。因得不到及时治疗，黄克诚咳嗽起来不断，像个体弱多病的老人，战友们又戏称他为“老头子”，或叫他“黄老头子”。
黄克诚出身贫寒，对贫苦百姓有着浓厚的感情。参军后，无论军务多忙，他都要抽空给驻地百姓干些农活。抗战时期，他常穿补丁摞补丁、袖口开花的棉大衣；外出时，总爱手拿粪铲，身背粪筐，一路上顺便给乡亲们拣点粪。
