1990年，参演电影《恶狼与天使》，这是他的首部电影作品。1995年，搭档卢芳主演话剧《军用列车》，这是他首部担任第一男主角的话剧。至2002年，出演多部影视作品多为配角。

2002年，主演关锦鹏执导的电影《蓝宇》，与刘烨饰演一对同性恋情侣，获得第7届香港电影金紫荆奖最佳男主角，并入围第38届金马奖最佳男主角。2003年主演张纪中担任总制片人的古装武侠剧《天龙八部》，饰演第一男主角大侠乔峰，这是他首次饰演英雄角色，却让观众记住了“大侠乔峰”和“硬汉胡军”。

2005年，与陈道明、刘嘉玲主演电视剧《一江春水向东流》，饰演负心汉张忠良。

2006年，参演电影《好奇害死猫》，饰演一个感情出轨的中年男人；在电视剧《楚汉风云》里面饰演项羽，与饰演虞姬的杨恭如和饰演吕后的吴倩莲都有对手戏。2007年，与陈道明主演央视开年大戏《卧薪尝胆》，饰演夫差 。

2008年，参演《赤壁》饰演赵云，提名第38届金马奖最佳男配角；参演冯小宁执导的历史剧《朱元璋》，饰演男一号朱元璋一角。2009年，参演陈德森导演的电影《十月围城》，饰演一个武功高强的刺客，是电影里面的唯一“反派”，也是他首次光头造型。

2010年，参演电影《让子弹飞》，出演假张麻子一角；与周韵主演电视连续剧《金婚风雨情》，饰演抗美援朝归来的志愿军英雄“耿直”；参演电视剧《岁月》，饰演书生梁致远 。

2011年，与郭晓冬、孙宁联袂主演电视连续剧《风语》，出演反派人物”陆丛俊“，收视居全国收视前三。2012年，和父亲胡宝善参加中央电视台春节联欢晚会，演唱《闹秧歌》；参演战争题材电视剧《孤军英雄》，饰演高智商军人“车道宽”，在中央八套播出期间平均收视为2.04；与徐帆、陈小艺、何冰等主演都市情感剧《青春四十》，出演专攻离婚官司的律师胡震东 。

2013年，参演《建元风云》饰演忽必烈；参演改编自毕飞宇小说《上海往事》的民国年代剧《像火花像蝴蝶》6月22日在东方卫视、江苏卫视黄金档播出，胡军再次出演硬汉，饰演亦正亦邪的“商会老大”，上海黑帮人物段绍荣。与刘德华、姚晨主演3D警匪片《风暴》12月公映，饰演“高智商悍匪”。

2014年，主演电影《救火英雄》1月上映，胡军出演喜剧角色“海洋”。

2015年7月3日，加盟湖南卫视亲子户外真人秀节目《爸爸去哪儿》（第三季）。

2016年3月10日，参演电影《铁木真传说》。同年，在电视剧《上海王》中饰演常力雄。

2017年10月10日，主演的电影《音乐家》在陕西延安举行中国首镜仪式，片中饰演冼星海。