Se for sobre subir aplicações cria cada ambiente em um container docker, é melhor.

Se for configurar tudo manualmente, crie os usuários, e então crie as chaves ssh na pasta de cada usuário acho que em "/home/username/.ssh/", após criar as chaves o programa em execução em cada pasta vai usar as chaves do usuário por padrão. Se não for por padrão você pode configurar isso no seu repositório em .git/config.

Sempre uso docker, mas faria assim se fosse fazer manualmente.