Acho que esses significados são um pouco fluidos. Lembrando que comunistinha nos eua são "liberals". Geralmente vejo classificações assim: libertarianismo é uma base moral e "pode" abarcar uma gama maior de organizações coletivas de indivíduos unidos voluntariamente, desde que obedecido o PNA, o que poderia até mesmo contemplar uma certa organização jurídica republicana; já o ancap eu não sei bem, mas parece uma negação mais intensa de qualquer controle coletivo do indivíduo.