Perso., je suis plutôt persuadé qu'il s'agit de l'autre.
Quand tu quotiente R^4 par D et que tu te retrouve dans un truc F isomorphe à R^3.
Les images A,B,C,D des 4 vecteurs de la base canonique de R^4 dans le quotient F forment une famille génératrice de F (donc 3 d'entre eux forment une base, par exemple A,B,C)
Et vu la façon dont ton groupe agit sur R^4, sur F, tu peut permuter les éléments A,B,C,D de la façon que tu veux, sans restriction et ça prouve que l'image de ton groupe dans GL(F), ben c'est le groupe des permutations du tétraèdre (ABCD), ni plus, ni moins.
Et tu peut même te débrouiller pour que tout ça reste dans le groupe orthogonal : le vecteur (1,1,1,1) de R^4 reste fixe par tout élément du groupe donc son orthogonal, à savoir le s.e.v. F (de dim 3) d'équation x1+x2+x3+x4=0 aussi et bien sûr, ton groupe s'envoie alors sur O(F).
Ensuite, il est clair, pour des raisons de symétrie, que les projetés orthogonaux A,B,C,D des 4 vecteurs de base de R^4 sur F forment les sommets d'un tétraèdre
régulier donc l'image de ton groupe dans O(F), c'est l'ensemble des isométries qui préservent ce tétraèdre.
Perso., j'aurais même tendance à "encore mieux" voir le bidule en ne considérant pas le s.e.v. F:x1+x2+x3+x4=0 mais plutôt le sous espace affine A:x1+x2+x3+x4=1 (lui aussi stable par les éléments de ton groupe) qui contient directement les 4 vecteurs de base et avec ce point de vue, c'est même pas la peine de projeter les vecteurs de base.
Par contre, maintenant ton groupe se représente dans le groupe des isométries
affines de A et pour montrer qu'on peut le représenter dans un groupe d'isométries vectorielles, il faut dire que le centre de gravité O=(1/4,1/4,1/4,1/4) des vecteur de la base de R^4 reste fixe par tout élément du groupe donc qu'on peut vectorialiser G en prenant ce point comme vecteur nul et que, ce faisant, ton groupe se représente dans le groupe des isométries
vectorielles de G.
(ce dernier point de vue est évidement lié au fait que, pour faire des calculs concernant "le"
simplexe de dimension n, plutôt que de le voir dans R^n, c'est plus simple de le voir dans le s.e. affine x1+x2+...+x(n+1)=1 de R^(n+1))