在昭和13年（1938年）泽山池建成之前，山田池是盐田平最大的蓄水池。
蓄水池的历史久远，建造年份不详，但在庆安3年（1650年，江户时期），人们将两个并列的蓄水池打通后合为现在的大蓄水池。接下来是当时修建水池时的故事。
开工前，下面的人将设计规划呈递给上田藩的殿下时，殿下说道：“若造如此大的蓄水池，决堤时有可能危害到上田的城镇和街道，给我把堤坝降低一尺（约30厘米）！”哪怕堤坝提高仅一尺，储水量也会极大地增加。但如果有不测原因导致决堤，则会让城市和街道遭遇水灾。因此，堤坝被降低一尺，建成了山田池。
另外，天保年间（1840年，江户时代），人们曾尝试在这座蓄水池里养殖鲤鱼，上田藩还在池畔开发了约三千坪的药园，栽培药草作为官方事业。
山田池虽然是跨越八木泽和山田的地籍建造的，但施工的总指挥却来自伊势（现三重县）的山田，因此池名是取自伊势的山田。在八木泽的字舟洼可以看到山田池的全貌，那里还供奉着从伊势请来守护池地的神明（天照皇大神宫）。