冷兵器时期，把首都建在一个小岛上，小岛跟大陆相连，能保证不被攻破吗？

可行，很可行，事实上，很多政权的首都或者是重镇都是建在岛上，如果没有海洋或者宽阔的河流，那就建在山上。理由嘛跟题主想的也差不多，确实有很大地形优势。

试举几例:

古代商业重镇提尔城，建在岛上

迦太基首都迦太基城，建在半岛上，不过也符合题主的描述

古代埃及第一大城，亚历山大里亚，我原来以为建在地峡上，原来也是建在半岛上

法国首都巴黎，最开始建在河岛上

罗马帝国的首都君士坦丁堡建在半岛上

...

https://daily.zhihu.com/story/9771700