秦始皇时期，秦朝在原秦、赵、燕三国旧长城的基础上，修成一条西起甘肃临洮、东到辽东碣石的万里长城。地形复杂，工程浩大。有些地段确实是人力所不能为的。秦始皇为此非常懊恼。有一方士献谗言说： “世间有一神鞭，能赶山填海，陛下如能得到此鞭，修长城工程就不在话下了。”秦始皇问如何能得到此鞭，方士献计说： “陛下可下诏令各郡县都凿一石马，命百姓赶之，赶不走石马者，杀他全家，这样一威逼，藏有神鞭者，就会献出来了。”秦始皇照办。这一下老百姓却遭了殃了，各地被杀者无数。

那时霸州境内有座高山叫台山，大山高耸入云，绵延数里，山上树木茂密，泉水潺潺。山下有一条东西走向的大河，直通大海。河边住着十几户人家，半耕半渔，生活尚算自给自足。

就在秦始皇赶石马、求神鞭的这年夏天，这里来了一个讨饭的老婆婆，因为饥饿和天热，晕倒在王存义家的门口。王存义的妻子刘氏出门看见，上前问询，谁想老婆婆已不省人事，刘氏赶忙喊来左邻右舍，不顾老婆婆浑身脏臭，上前用各种方法进行急救，老婆婆终于醒了过来。刘氏又拿来饭菜，一口口喂给老婆婆吃。待老婆婆饭饱之后，她就把老婆婆扶进自己家中，留她住了下来。给老婆婆洗了澡，换了衣服，一日三餐殷勤侍奉。

一天晚上，老婆婆把王存义夫妇叫到跟前说： “明天我要走了，这些日子你们对我这么好，我无以为报，我把我束腰的这条裤带给你们留下，你们一定要好好保管着，以后会有用场的。”说着，解下了那条像鞭子一样的腰带，交给了王存义。夫妻二人正端详那条裤带呢，老婆婆却眨眼不见了。

过了些日子，村里来了一队官兵，抬着一个石马。他们把村民集合起来，当官的给大家训话： “皇帝有令，为修长城需要移山填海，你们谁家藏着神鞭，赶快交出来。”有人问： “什么是神鞭哪？”当官的就指着石马说： “能赶走这匹石马的就是神鞭。”

大伙一听，纷纷议论，一匹石马如何能赶得它走？当官的又说： “赶不走这石马者满门抄斩！”一时间全村人都吓得浑身颤抖、低头不语。

王存义猛然想起讨饭的老婆婆留下的那条像鞭子一样的裤腰带，是不是那就是神鞭？全村人眼看大难临头了，不妨拿出来试试，也许能救下全村人的性命。王存义赶忙把那裤带拿来，并在官兵的监视下，抡起裤带打那石马。谁想他一鞭下去，那石马就跑得没影儿了。当官的大喜，抢过神鞭，为了他自己邀功请赏，就命令他手下的兵丁，把村民全部赶到台山上。然后他抡起神鞭朝台山打去，啪啪一连五鞭，这座大山登时拔地而起，忽悠悠向西北方向飞去，最后落到了山西境内，就是现在的五台山了。

台山被赶走以后，只留下了一处台基，后来有人又在台基上建房安家，渐渐的形成了一个村庄。

这就是台山村的来历。