1996年，在陈佩斯主演的电视剧《为了新生活前进》客串角色。
1998年，出演许同均执导的电影《好汉三条半》。
1999年，在电视剧《楼转乾坤》饰杨望金。
2000年，在丁晟执导的电影《大惊小怪》中，饰演王天贵；同年在蔡明主演的电视剧《闲人马大姐》饰潘大庆。
2001年，在《东北一家人》饰演金老二的哥哥金老大，并演唱《东北一家人》片尾曲；同年，在春晚与李琦、刘惠、尹相杰等人表演《康定情歌》。
2002年，在电视剧《党员马大姐》饰潘大庆；同年在电视剧《爸爸叫红旗》饰经理。
2003年，在李幼斌主演的电影《惊心动魄》饰演角色刘金山；同年在电视剧《前门楼子九丈九》饰佟六；后又在电视剧《二哥》饰王总；后又在在电视剧《小兵张嘎》中饰胖翻译，被观众熟识。
2004年，在电视剧《人生几度秋凉》饰刘督办；后又在电视剧《国家形象》饰江东；同年刘金山受邀加盟央视春晚，与喜剧演员冯巩等合作表演小品《让一让，生活真美好》。
2005年，在电视剧《追杀横路靖六》饰横路靖六；同年在电视剧《杨光的快乐生活1》客串铅笔厂厂长；后又在电视剧《谁为爱情买单》饰李查得父。
2006年，和于荣光、童蕾合作，在电视剧《狼毒花》饰演母猪龙；同年在电视剧《杨三姐告状》饰陶钰；后又在电视剧《血色玫瑰》饰郑元龙。
2007年，出演赵本山、宋丹丹主演的电影《落叶归根》，饰演黑店老板；同年在佟大为、马伊俐主演的电视剧《奋斗》中饰石康男友；后又在电视剧《闯关东》中饰吴掌柜。
2008年，与刘桦搭档，主演电影《万家灯火》；同年在在电视剧《北方有佳人》饰张宗昌；同年又在电视剧《我是一棵小草》饰胖哥。
2009年，在电视剧《中天悬剑》饰演韩东山；同年在刘惠宁执导的电视剧《我是业主》饰陈自强；后又在冯远征、陈冲主演的电视剧《人到中年》饰马科。
2010年，在徐克执导的《狄仁杰之通天帝国》饰演薛勇；同年8月，在赵宝刚执导的电视剧《婚姻保卫战》中刘金山和于娜饰演一对“老夫少妻”。
2012年，与演员英达、洪剑涛合作，加盟戏剧电影《我和你》。
2011年，在郭富城、陈奕迅主演的电影《全球热恋》中饰演华叔；同年刘金山又受邀加盟央视春晚，与喜剧演员冯巩等合作表演相声剧《还钱》，这是他第二次登上春晚舞台；后又在在动画片《老夫子之小水虎传奇》为大蕃薯配音，这是他首播动画作品。
2014年，在赵宝刚执导的青春偶像剧《青年医生》中搭档孙红雷上演了一出急诊室“情”缘；同期在辛柏青主演的电视剧《跟我回家》中饰演大老板张总；同年12月，由金依萌执导，刘金山主演的电影《一路惊喜》也在贺岁档上映。
2015年1月，做为开年第一位嘉宾将做客北京文艺频道明星讲述栏目《光荣绽放》。8月20日，刘金山与杨颖、倪妮合作喜剧电影《新娘大作战》上映。同年，出演电视剧《糊涂县令郑板桥》，在剧中饰演利大反派范仁福。
2016年，参演抗战轻喜剧《迷雾1945》。
2019年10月22日，主演的电影《那一夜，我给你开过车》宣布定档11月15日。。
上海国际电影节
2019第22届上海国际电影节之电影频道传媒大奖最受传媒关注男配角奖那一夜，我给你开过车（获奖）
刘金山饰演的人物个个鲜活生动，深入人心，塑造的一些小人物栩栩如生，被誉为“黄金配角”。在演戏过程中，哪怕是只有一点戏的小人物，也会将人物的心态表现得淋漓尽致。
刘金山以自成一派的表演俘获了全国观众的认可，成功地塑造了那些生活化的小人物，并赋予那些角色独特的魅力，或幽默或厌恶。与那些老好人角色相比，刘金山所塑造的反派角色更深入观众之心，被称之为国内具有特色的反派专业演员。
打人事件2012年5月7日，刘金山在北京出席某活动，当驱车抵达活动现场时，因保安没认出他而拒绝让他进场，刘金山愤怒之下与保安争吵起来，更发飙动粗踹保安，甚至动手拽保安的领带，最后在保安管理层的调解下才平息怒火。