東魏興和三年（541年），高長恭出生，是東魏權臣高歡孫子、高澄第四子，生母不詳。蘭陵王在當時，乃至在整個古代都是一個顏值超高的人，他與潘安、宋玉、衛玠同爲古代四大美男，因爲相貌俊美柔善，在戰場上對陣時，他經常會受到敵手的輕蔑。爲此，他不得不命人制作了一些面目猙獰的“大面”，每逢出戰時，都戴在臉上，以此達到威懾敵手的目的。其早年仕途經歷遠不如其兄弟。直到天保八年（557年），方纔起家被授爲通直散騎侍郎。天保九年（558年），封樂城縣開國公，進上儀同三司。天保十年（559年），加授儀同三司，開始出任地方官，以本官行肆州事。高洋死後，高殷即位。北齊乾明元年（560年）三月二十一日，高長恭受封蘭陵王。後來累次升遷至幷州刺史。在乾明之變後，皇叔孝昭帝高演登基，給予蘭陵王高長恭進一步重用， 邑通前一千五百戶，轉中領軍，加開府儀同三司。武成帝高湛即位之後，大寧元年（561年），被授使持節都督幷州諸軍事、幷州刺史。大寧二年（562年），別封鉅鹿郡開國公，食邑一千戶，進領軍將軍。
河清二年（563年），北周大將楊忠與突厥木杆可汗合兵自恆州而下攻北齊，直逼併州，高長恭參與了擊退突厥的作戰，奮力將突厥人擊退。河清三年（564年）十二月，邙山之戰時，北周攻打洛陽，武成帝高湛派高長恭與幷州刺史段韶、大將軍斛律光前往洛陽救援，因爲懼怕北周的兵力強大，不敢前進。段韶利用謀略打敗北周軍隊，高長恭帶領五百名騎兵衝進北周軍隊的包圍圈，到了金墉（今河南洛陽東北故城）城下，因爲高長恭戴着頭盔，城中的人不確定是敵軍或是我軍，直到高長恭把頭盔脫下來讓大家看到他的面貌，城上的人才派弓箭手開始放箭保護他，之後高長恭成功替金墉解圍，北周軍隊最後放棄營帳逃走，從邙山到谷水的三十里間的川澤之地，都是北周丟棄的兵器輜重。高長恭在此次場戰役中威名大振，士兵們爲此次戰役而謳歌他，即後來知名的《蘭陵王入陣曲》。同年十二月十五日，高長恭被任命爲尚書令。後來，歷任司州、青州、瀛州的地方長官。武平元年（570年）七月初三日，擔任錄尚書事。武平二年（571年）二月二十四日，擔任太尉。三月，北周齊國公宇文憲從龍門渡過黃河，右丞相斛律光退守華谷，宇文憲攻取了斛律光新築的五座城池。高長恭與太宰段韶、右丞相斛律光聯合進攻蹺谷，率軍抵禦北周的軍隊，進攻柏谷城，攻克後就退兵而回。
武平二年（571年）五月，北周晉國公宇文護派中外府參軍郭榮在姚襄城南、定陽城西修築城池。六月，段韶包圍定陽城，當時段韶生病，對高長恭說：“這座城池的三面都有兩道河壕，無路可走；恐怕只有東南一條路，賊寇一定會從這裡突圍。應當挑選精兵專門防守這條道路，這樣一定能夠捉住他們。”高長恭便派一千多名壯士埋伏在東南澗口。城中的糧食吃盡，宇文憲集中所有的兵力去救援，但因害怕段韶，不敢前進。楊敷率領現有的士兵乘夜突圍出城，被高長恭的伏兵攻擊，全部俘虜。武平三年（572年）八月，高長恭被任命爲大司馬。武平四年（573年）四月十三日，擔任太保。高長恭前後因各項戰功，被封爲鉅鹿郡公、長樂郡公、樂平郡公、高陽郡公等。在邙山之戰後，北齊後主高緯對高長恭說：“這樣衝進敵陣之中，如果不小心發生意外怎麼辦？”高長恭回答說：“國事就是我們的家事，在戰場上我不會想到這個。”而後主高緯因爲他說的“家事”，又聽到士兵們唱的《蘭陵王入陣曲》，便開始猜忌高長恭。定陽之戰時，高長恭代替段韶的職務統率軍隊，但是常常收取賄賂，聚斂財物，他的親信尉相願問他說：“大王受到朝廷的重託，爲什麼要如此貪心呢？”高長恭沒有回答。尉相願繼續說：“是不是因爲邙山之戰大勝，您害怕功高震主，遭受忌妒，而要作令人看不起的事情呢？”高長恭回答說是。尉相願說：“朝廷如果忌恨你，這件事情更容易被當成是罪名，這不是躲避災禍而是招來災禍！”高長恭哭着俯身向尉相願詢問解決的計策，尉相願說：“您之前已經立下戰功，這次依然打勝仗，聲望太大，最好假託有病在家，不要再管國家的政事。”高長恭聽從他的計策，但是沒有辦法成功隱退。等到朝廷對陳朝用兵，高長恭恐怕再次被任命將軍，嘆息說：“我去年臉上長癰，現在爲什麼不發出來！”從此有了病也不肯醫治。
武平四年（573年）五月，後主高緯派遣使者徐之範送毒酒給高長恭，高長恭對他的王妃滎陽鄭氏（蘭陵王妃）說：“我對國家如此忠心，哪裡有辜負皇帝，而要賜我毒酒？”鄭氏回答說：“爲什麼不親自當面去跟皇帝解釋呢？”高長恭說：“皇帝怎麼可能會見我？”於是就飲鴆而死，年僅三十三，追贈太尉，諡號武。