黄公略少年时性情刚烈，一言不合，拔拳相向，经常惹出事端。
其父是个落魄秀才，父亲为他讲起张良路遇黄石老人、折节奉师的故事，说：“你脾气暴躁，心里藏不住半点秘密，这样只能做绿林好汉，当不了大英雄。”
父亲的话，令黄汉魂羞愧难当。此后，他改名黄石，字公略，发誓以精通韬略的张良为楷模。
黄公略从小爱读兵书，十七岁离开湘乡到长沙投奔湘军。
在湘军中，他遇到了一生中最好的朋友一一彭德怀。
1927年春节过后，黄公略通过了严格的考试，被黄埔军校高级班录取。
黄公略和彭德怀都是坚定的革命者，他们在革命处于低潮时毅然加入了中国共产党。黄公略还参加了广州起义。
1928年2月，黄公略从黄埔军校毕业，由已升任团长的彭德怀推荐担任随营学校副校长。
黄公略办军校，军政并重，除教授战术、地形、筑城、兵器等四大教程和操典、野外条例、内务条例、射击教范等四小教程外，特别重视政治课的教育。
他经常讲授国民革命的任务、对象和前途，讲授农民运动的重要性和农民运动的特点，启发学员的阶级觉悟。
随营学校第一期招收的学员有近二百名，后来都参加了平江起义，不少人成为优秀的红军指挥员。
1928年7月18日，中共南（县）华（容）安（乡）特委在长沙被国民党破获，抄查出一张随营学校开给特委购买油印机的通行证。
国民革命军独立第五师师长周磐当时正在长沙开会，一看通行证就认出是黄公略的笔迹，大叫“糟了”，立即给副师长李慧根拍发密电。
也是黄公略命大。周磐拍发密电时，他的马弁陈玉成在场。陈玉成是中共安插在独立第五师的秘密情报员，他不动声色地给彭德怀拍发电报，告知此事。
彭德怀接此电报后，大惊，立即前往平江电报局，扣留了周磐给李慧根的密电。
7月20日，一团团党委与正在平江巡视的中共湖南省委特派员滕代远经过紧急磋商，决定于22日发动起义，成立中国工农红军第五军，并派人送信给黄公略，通知他在三团发动起义，将部队拉来平江城会合。
1928年8月24日，起义部队改编为红五军，彭德怀、滕代远分任军长和党代表，黄公略任四团党代表。
1928年8月的月底，根据中共湖南省委的指示，红五军向井冈山进发。
当红五军行至江西万载时，由于一个副连长投敌告密，部队遭到国民党优势兵力的袭击，损失惨重，全军只剩下一千余人。
彭德怀称这段时间为红五军最困难的时期。
此时的黄公略提出两条建议：一、对混进起义队伍的军官进行审查和清洗；二、吸取在战斗中经过考验的优秀分子入党，并安排他们担任基层干部。
九月，红五军军委与湘鄂赣特委举行会议，决定将五军与各县游击队混编为五个纵队，任命黄公略为第二纵队纵队长。
在这次会议上，彭德怀提出到井冈山向朱德、毛泽东领导的红四军取经的建议。
会后，红五军兵分两路，彭德怀、滕代远率军部直属队和四、五纵队向南冲破敌人包围，前往井冈山寻找红四军，留下来的一、二、三纵队由黄公略统一指挥，担负起保卫和发展湘鄂赣根据地的任务。
黄公略成为湘鄂赣根据地最高军事首长。
在实践中，他创造和总结了绕南进北、昼伏夜出、彼合我散、彼集我合、彼驻我扰、彼追我圈等游击战术，还将这些心得写成一本《游击战术》的小册子，在军中广为印发。
据考证，这是红军历史上第一部研究和阐述游击战术的军事著作。