Discordo da ideia de que isso se refere diretamente ao ego. Muitos que afirmam ter controle sobre o 'ego' (que se demontram humildes ou até ensinam sobre o assunto) continuam presos a pensamentos fixos e embora se afastem dos excessos externos, acabam se fechando nas mesmas ou novas concepções.

Assim, os que se dizem muito 'desapegados' do 'Eu' se tornam muito fixados nisso e assim muito fluidos, flutuantes e relativistas, perdendo a conexão com a objetividade exterior. Por outro lado, os muito 'apegados' tendem a ser rígidos, teimosos e egocêntricos, distantes de sua subjetividade mais profunda.

A questão, a meu ver, está na mentalidade fixa, a falta de curiosidade para buscar externamente o que não se sabe, e a falta de abertura e moderação para julgar internamente o que se tem contato. Essa rigidez, tanto na exploração do novo quanto na reflexão genuina sobre o que se experiencia, impede que as pessoas se aprimorem e parem de cometer os mesmos erros e enganos.

Concordo com você, é um termo enganoso, mas vai num sentido semelhante de "rede neural", não é uma rede de neurônios de verdade, mas um formato análogo.

Apesar de que em relação a "inteligência" o termo é naturamente bem amplo, já que animais, desde os mais simples, também tem algum nível de inteligência, só não tem a consciência humana, a consciência argumentativa.

E em relação a ser sempre um auxiliar, eu não tenho opinião, eu não sei que componentes seriam necessários para as IAs serem conscientes.