在长江古道上有只老龟，据说它在江道中修行了千余年，长年累月游荡于长江中，总觉得自己终身都沒有处定所，想找个落脚地，定居下来。它在长江中左寻右找，不知不觉地来到了马鞍山东首的对岸，选好地盘，看看长江水势，摞摞泥土，松口气，伸伸懒腰，作过抬头饮水之势，就将全身卧伏下来，并一梦不醒。若干年后，化为了一座山，因千百年长江洪水的冲刷，江底下陷，悬崖耸立更高，中间一壁崖石形如龟头，两边崖石形如龟足，人们遂以其山的形状故称“龟山”。
龟山在新街镇境内，马鞍山（古称百匹山）的东岸，古代为三国时期蜀军操练水师的江段，《水经注﹒江水》载曰“百匹练”。
龟山脚下就是长江古航道，临江的头部，高石耸立，石崖陡峭，崖壁上也刻有“赤辟”二字；被侵华日军拍摄留存至今。整体山势绿荫丛丛，虽说面积不大，并成为过往船只的一个重要停靠码头，山中还有街道，建有铺店和饮食店等，来往船只客商都在此落脚小憩，成为旧时长江中的旅游观景台。
南宋建炎二年（1128年），江西吉水（金陵松江）戌府李广二，为了躲辟战乱，迁此定居，后形成村落。由于龟头的山石伸入长江中形似矶，古时又称“河泊矶”。清·秀才鲁侨《过河泊矶》诗赞：“轻飞一叶过矶头,幕云收尽几千愁.相属狍樽浑是醉,醉来天地一浮游。” 此地是长江与西梁湖、蜀茶湖连通的要道，渔业资源十分丰富；从元朝起山上就设有嘉鱼县河泊矶渔课所，专管渔业的课税征收。
宋长江大堤首修时有三段；分别为新堤、接龙堤、腰堤。而腰堤的起点就是从龟山至殷家阁；至今已有900年历史。明万历四十四年（16），嘉鱼县令葛中选（云南河西人）进士，继续将长江大堤从双窑延筑至武昌禹观山，因培修四邑大堤有功，县坤就在河泊矶上为他建有一祠，名曰“葛中生祠”。使龟山又添一景，更加耀丽。
在龟山与马鞍山的两岸之中是长江河道繁华区，两岸的低洼处中间为长江夹套，也就是现今的茅洲脑至马鞍桥段，实名“山匹（陂）峡”，俗称“小湘峡”。明朝我县大儒知名理学家李承箕（号大崖）在黄公山筑台建学，常走水路经小湘峡，对小湘峡恋有独钟的情感，并写下了《小湘峡食嘉鱼》的诗篇：“两山断处小湘峡，十月嘉鱼出水鲜。引满阿侬生日酒，征吟空记属牛年。” 夜间乘船过龟山，一眼就可望到黄公山筑台的灯火，后李承箕的恩师广东陈献章（号白沙）来嘉鱼乘船过小湘峡赴黄公山时，也留下了《龟山夜月》五律美哉的诗章：“夜半龟山月，能开万顷秋。试从开处望，照公湖上楼。”
后山上的店主们在此繁衍生息成村，我县中共早期党员、1927年9月鄂南暴动的嘉鱼主要领导人，1934年在南京雨花台英勇就义的徐海特委负责人李文卿（又名李鑫），就出身在龟山村。
解放后龟山曾置为马鞍山乡所在地，1958—1971年为马鞍公社所在地，并建有供销社、食品所等单位，还在龟山的西北筑建了百里长渠和马鞍河及电排站等农业设施，使小湘峡湖塌成为万亩良田。后行政区划变动，公社治所迁至新街，名曰新街镇，现龟山隶属新街镇管辖。由于防洪大堤和长江的北移，龟山北面湖塌逐步淤塞和填埋，加山上房屋建筑的覆盖，使原有的景观一去不复返，但龟山这一特有的地名犹存至今，在5—200米处为古长江底道，现建有武（汉）嘉（鱼）四车道高速公路，马鞍桥就在长江底道的中间，百里长渠沿长江底道伸向沙湖岭，灌溉着长渠两旁的万顷农田，为嘉鱼县粮菜的丰收提供了有力的保障。更可喜的是，龟山下长江古道现以成为了新街镇的繁华经济工业园和现代化农业示范基地园、农家乐庄园等，以一派欣欣向荣经济产业带展现在世人面前。
