Concordo com você, é um termo enganoso, mas vai num sentido semelhante de "rede neural", não é uma rede de neurônios de verdade, mas um formato análogo.

Apesar de que em relação a "inteligência" o termo é naturamente bem amplo, já que animais, desde os mais simples, também tem algum nível de inteligência, só não tem a consciência humana, a consciência argumentativa.

E em relação a ser sempre um auxiliar, eu não tenho opinião, eu não sei que componentes seriam necessários para as IAs serem conscientes.