堪公夫人
山涛的妻子韩氏，和山涛的感情一直非常好。山涛做官之前，家徒四壁，但韩氏从来没有怨言。有一天，山涛对她说：“你暂且忍一忍如今的饥寒，后定当位列三公，只是不知道到时候你是否做得来三公夫人哩。”等到山涛显贵之后，仍正派节俭，虽爵同千乘之君，但不养婢妾，俸禄赏赐，都散给亲戚故人。
我度为胜
当时，山涛和名士嵇康、阮籍一见面，就情投意合，好得像一个人。韩氏觉得山涛和这两位的交往超出了寻常的友谊之情，于是问他怎么回事，山涛就说：“眼下能做我的朋友的，就只有这么两位了。”这句话更激起韩氏的好奇心。她对丈夫说：“我也想看看他们，可以吗？”有一天，嵇康和阮籍又来了，韩氏就劝山涛将两个人留下来住宿，并给他们准备了好酒好肉。然后，韩氏不但把自己家的墙钻穿了，还一直看到天亮时分才回来。
后来，当山涛问起韩氏的观看感受时，韩氏坦直地对他说：“你呀，你呀，才智情趣比他们差远了！不过以你的见识与气度和他们交朋友，还差不多！”山涛大约有点吃醋，听到这话总算找到一点自尊，就说：“是啊，是啊，他们也总认为我的气度胜过他们啊！”
悬丝尚书
陈郡人袁毅曾任鬲县县令，性贪而行污，以贿赂公卿来索求美誉。他也送给山涛丝百斤，山涛不想要拒绝接受而于别人不同，于是收下藏在阁楼上。后来袁毅的事被揭发，用槛车送京师廷尉受审，凡受贿的人都被检举。山涛就取出丝交给办案的官吏，丝上积满尘土，封条印章未动。
八斗方醉
据说山涛饮酒八斗才会醉，晋武帝司马炎想试他的酒量，一次准备了八斗酒让山涛喝，并在暗地又添一些酒，但山涛喝八斗就不再喝了。
璞玉浑金
同为“竹林七贤”之一的名士王戎曾盛赞山涛道：“山涛就像未经琢磨的玉和未经冶炼的金一样。人们往往都欣赏玉和金光彩夺目的外表，而对未经琢磨的玉和未经冶炼的金，却不知道它们内在的高贵质地。”
每饷恒少
武帝司马炎每次赏赐东西给山涛，总是很少。东晋时期，名臣便以此事问子侄们是什么原因，其侄谢玄答道：“这应该是由于受赐的人要求得不多，才使得赏赐的人忘了给与得很少。”
阁东大牛
山涛由于受到器重，并且在朝廷中有威望，年纪已过七十岁，还照旧担当重任。一些权贵家子弟，如和峤、裴楷、王济等人都一起给他。于是有人在阁道的柱子上题道：“阁道东边有大牛，和峤在牛前，裴楷在牛后，王济在中间挑逗纠缠不得休。”有人认为这是潘尼所作。
外宁内忧
咸宁五年（279年），司马炎在杜预、张华的支持下决意伐吴，贾充、荀勖等人不同意伐吴，坚持他们的意见，司马炎大怒，贾充立即脱帽认罪。山涛退朝回来和别人说：“古人云，‘只有圣人能做到内外无患，假如不是圣人，外部安宁了就必然有内部的忧患。’以我朝目前的情况来看，留着吴作为外部威胁，难道不是良计吗？”