Quand je ne sais pas résoudre un problème de géométrie, je passe par les coordonnées, et tant pis si ça génère de gros calculs. C'est ce que je viens de faire ici et ça marche. Mais je suis sûr que ce n'est pas la solution la plus simple.
L'idée qui a marché est la suivante : je place un point du triangle OAB sur l'origine (autant avoir les coordonnées les plus simples), un autre avec une ordonnée de +1 (son abscisse est inconnue) et le troisième avec une ordonnée de -3 (son abscisse est inconnue). Si a est la longueur cherchée (c'est aussi une inconnue), j'obtiens trois équations en écrivant OA = a, OB = a, AB = a. Trois équations à trois inconnues, et pas faciles à résoudre (il faut le faire avec méthode). Mais on peut les résoudre uniquement avec des notions de collège, c'est étonnant (je suis passé par une équation du 4è degré, mais elle se factorisait aisément). Par contre il faut de bons réflexes.
J'espère n'avoir pas donné trop d'indications.
(Au final je trouve a =

.)