1979年，回北京主演影片《樱》。

1980年，起任西安电影制片厂演员。1982年，主演故事片电影《张衡》，饰演东汉时期的科学家“张衡”。1984年，主演了根据巴金同名小说改编的电影《寒夜》，出演主人公“汪文宣”。1986年，转任导演。1987年，导演了电影《盲流》及电视剧《铸情岁月》，并著有《电影表演探索》等40余篇论文，并凭借《古越轶事》夺得首届电影艺术学会奖。

1993年，凭借《筏子客》夺得第四届电影艺术学会奖。1994年，在谢晋执导的《大上海屋檐下》中饰演沈伯轩。1997年，参演杨洁执导的历史剧《司马迁》，饰演了西汉第七位皇帝汉武帝。1999年，主演了何群执导的根据同名小说改编而成的红色作品《红岩》。

2001年10月，与徐帆共同拍摄了，谢飞执导的曹禺话剧改编的《日出》，7日，主演了历史悬疑剧《江山为重》，饰演康熙；同年，与吴京、雅琦共同主演武侠动作剧《少林武王》。

2002年4月，主演了清朝孝庄文皇后的生平而改编的历史古装剧《孝庄秘史》，饰演清太祖，多尔衮和皇太极的父亲；8月，客串了改编自金庸同名小说的古装武侠爱情剧《天龙八部》，饰演逍遥派掌门无涯子；11月，拍摄了表现世界历史文化遗产避暑山庄及周围寺庙的长篇作品《避暑山庄大传奇》，在康熙篇中饰演康熙。

2003年6月，主演了清宫历史剧《宫廷画师郎世宁》，饰演康熙；同年，与张庭、范冰冰主演古装历史剧《聚宝盆》，饰演刘伯温。

2005年，与常戎共同主演枪战悬疑剧《喋血大汉口》，在剧中扮演大汉口帮会总舵主司马豪。

2006年4月，拍摄了首部讲述中国近代史上福建船政创立和中法马江海战的作品《船政风云》；5月，在颜丹晨主演的人物传记作品《商贾将军》中饰罗文川；9月，拍摄了历史题材作品《大秦帝国之裂变》，饰演秦献公；12月，参演了由黄维德、炽龙主演的民国江湖励志剧《东方霸主》，饰演青龙帮老帮主关振南；同年，拍摄了改编自明朝小说家许仲琳所著的奇幻神话小说《封神榜之凤鸣岐山》，饰演闻太师。

2008年7月，出演了李少红执导的新版《红楼梦》，饰贾政。

2009年2月，许还山拍摄了建国六十周年致敬影片《建国大业》，饰于右任；3月，出演胡玫执导的人物传纪电影《孔子》，饰老子；6月，与李亚鹏合作，拍摄家族年代剧《血色沉香》，饰反派银行家叶公；7月，拍摄了《少林寺传奇3》，饰朱载琇；11月，出演电视剧《西风烈》，饰赵惠文王。

2010年2月，搭档王志飞出演年代剧《草根王》，饰高买大师霍一手；9月，在以“白家”和“鹿家”在白鹿原上的争斗为背景的电影《白鹿原》中饰郭举人。

2011年9月，拍摄了张扬执导的喜剧电影《飞越老人院》，并在剧中饰老葛；12月，出演红色题材反特剧《红色利剑》，饰李弘基；同年，在张国立执导的建党90周年献礼剧《中国1945之重庆风云》中饰民盟主席张澜 。

2012年，参演电影《钱学森》，与陈坤、张雨绮合作。饰演老年钱学森。

2013年7月，许还山出演了国建勇执导的谍战题材作品《利箭行动》，饰卫逸德；8月，与俞灏明共同主演了古装悬疑电影《大峰祖师》，饰演祖师；9月，获得中国电影表演艺术学会特别荣誉奖。

2016年2月，在《老子传奇》中出演圣人老子的第三任老师“紫真”；7月，与高以翔、焦俊艳等共同出演电视剧《遇见王沥川》。

2017年7月，在王良导演的《我的老兵爷爷》饰演亓长福（男一号）。

2018年10月26日，主演都市情感剧《为青春点赞》，饰演胡英南。

2019年，出演电视剧《庆余年》，饰演庄墨韩。

2020年12月1日，出演古装历史政治剧《大秦赋》，饰演荀子。

2021年4月16日，领衔主演的电影《空中之城》播出，剧中饰演了丧偶的老军人。

2021年6月20日，参演梁嘉诚导演的电影《宝典传》。