该纪念碑座落在全国内河最大煤港——南京浦口新炭场煤港内。
1937年12月13日，侵华日军-占领南京后，该煤炭港成了日本侵略者掠夺中国资源的港口码头；而在码头毗邻处，即是日军设立的两座“战俘集中营”。
浦口新炭场一带，在日军占领以前，是英国人办的打蛋厂（专用蛋清）。日军占领后，这里成了日本三井洋行经营的三井码头。日本侵略者为了实施他们在中国的疯狂掠夺和镇压抗日力量，1940年初，在三井码头的临江地带，建立了两个战俘集中营，占地约三、四千亩。集中营三面环水，一面为日军严加防守的进出口，周围架设有三道二米高的铁丝网（中间还有一道电网）。集中营内建有一座碉堡并驻有一个日军看守小队和一个炮兵连，相当于一个营的兵力，与浦口镇的日寇宪兵队联合看押战俘。
从1941年开始，日军先后分六批从太原、北京、上海、武汉等地向浦口战俘营押送来5000多名抗战中被俘的新四军、游击队和-抗日将士，也有少数因没有“良民证”而被抓的小商、小贩和孩子。
战俘在战俘营内，成了日军不花代价的苦力，每天一早就被驱赶至码头，将中国的矿石、煤炭装运上船，源源不断地运往日本。一天工作达十六小时。
战俘们在营内受尽非人折磨，吃的不是发了霉的豆子就是山芋干，或者是烂蚕豆、高粱面，而且还吃不饱。开始连衣服也没有穿，天寒地冻时，战俘们就用稻草裹身，或用草包戳个洞套在身上。住的条件更为恶劣，几百人挤在一间低矮的木板房（稻草顶），遇上下雨，到处滴嗒漏雨。与此同时，还经常遭到日寇的残酷-。打骂是常事，稍有-即被刺杀或投到江里。大冬天，甚至还将人浑身0，用水喷后，将人绑在树上像冰棍一样地死去。还有人被绑在树上，灌了一肚子水，被日冠用粗木棍猛敲开肚皮致死。日冠暴行罄竹难书。今浦口新炭场坝子窑一带，就是日寇当年埋葬中国战俘的乱葬岗子。至1945年8月15日日军投降时，已有4000多名爱国志士被日寇在此-致死。幸存者仅800多名。
集中营内鬼子的暴行，终于激起了战俘们的联合-。从1942年5月到1944年4月，他们先后组织了四次-，但冲出去的仅有一百多人，大多数死在日军的炮火和刺刀下。
抗战胜利后，国民政府和一些将士，曾自动捐款集资，在当年战俘尸骨横陈之地的中心立了一个纪念碑，碑后建纪念塔一座，塔身书“抗日蒙难同志纪念塔”九个大字。解放后，由于人们对-抗日爱将士的认识不足，塔和碑均被毁。
1982年南京市文物普查后，这里被定为区级文物保护单位。
1989年国庆前夕，在浦口区人民政府和南京港务局领导的关心支持下，在今新炭场民生街口重建一座“抗日蒙难将士纪念碑”。并常在此对浦口区青少年和广大干部群众进行爱国主义和革命传统教育。
