高固，唐高宗时期名将高侃的四世孙，他出生微贱，幼年时便被叔父卖给他人，辗转之后，成为大将浑瑊的家奴，被取名黄芩。高固生性聪敏，体力过人，擅长骑射，喜欢读《左氏春秋》，浑瑊对高固非常喜爱，“养如己子”，并将乳母的女儿嫁给他，因《左氏春秋》中有齐国大夫高固，于是为他改名高固。
少年时，高固随浑瑊征战于朔方军，“泾原兵变”爆发，唐德宗李适仓皇出逃奉天。当时，浑瑊奉命守卫奉天，叛军首领朱泚亲率大军，攻打奉天城，邠宁留后韩游瑰、庆州刺史论惟明及监军翟文秀率军三千至醴泉，遭遇叛军，韩游瑰回军奉天。朱泚紧随其后，争夺奉天城门，打算进城，浑瑊与韩游瑰率军抵御，血战整日。奉天城中有几辆草车，浑瑊命高固率领身穿铠甲的战士用长刀砍杀敌人，个个以一当百，又把草车拖过来堵塞在城门口，放火烧车，唐军乘着火势出击，叛军只好退却，众人都赞叹高固的壮勇。战后，高固因功获封渤海郡王。
朔方节度使李怀光叛乱，德宗再次逃往梁州，李怀光命朔方留后张昕派遣留守将士一万余人及行营将士家属前往泾阳会合。邠宁兵马使韩游瑰劝说张昕反正未果，于是称病不出，暗中与高固、杨怀宾等人相互连络。当时，秘书监崔汉衡让吐蕃军在邠州南面扎营，高固说：“如果张昕带着众人离开，城便空了。”于是，他假造浑瑊的书信，传召吐蕃，让他们对邠州稍加进逼，张昕因畏惧而不敢出城。张昕又谋杀诸将中不肯从命的人，韩游瑰知道此事，便抢在张昕下手之前，与高固等人起兵杀死张昕。此后，高固因功被授为检校右散骑常侍、前军兵马使。
邠宁节度使杨朝晟逝世，军中发生变乱，企图拥立宁州刺史刘南金为节度使，遭其婉拒。军士随后造访高固，他躲避起来，被军士找到，高固说：“你们能听我的命令，那我便答应。”众人允诺，高固于是下令：“不要杀人，不要抢掠钱财。”又得到众人保证。在军士的请求下，德宗所派的使者薛盈珍当即命高固掌管军务，德宗下诏，授高固为邠州刺史兼御史大夫、邠宁庆节度使。
高固是邠宁军的老将，因为人宽厚而深得军心，颇受前任节度使的忌惮，将其置于闲职，同僚也大多轻侮他，等到高固被起用为节度使，不念旧怨，公正处事，军心于是安定。