Paradoxe de Newcomb

[Vassillia]

Bonjour,

A la frontière entre les mathématiques et la philosophie, une petite présentation d'un paradoxe bien connu qui pourra peut-être en intéresser certains.
Il n'est pas question de le résoudre, cela me parait impossible, juste de donner sa position argumentée si vous le souhaitez.

2 boites devant vous :
A contient 1.000 euros
B contient soit 0 euros soit 1.000.000 euros

Votre choix :
Ne prendre que la boite B
Prendre les 2 boites A et B

Mais attention, on considère qu'il existe une IA qui a essayé de prédire votre choix en fonction de votre personnalité. Ce n'est pas totalement délirant vu le nombre de données que l'on laisse partout et vu les recherches dans ce domaine.
Lors de la prédiction faite hier concernant ce que vous ferez le lendemain :
-Si l'IA pense que vous allez prendre uniquement la boite B, il a été mis 1.000.000 euros dans la boite B
-Si l'IA pense que vous allez prendre les 2 boites, il a été mis 0 euros dans la boite B
Evidemment, l'IA peut se tromper mais on va considérer d'après les résultats des expèriences précédentes que quelque soit votre personnalité, elle a raison dans 90% des cas.

Que faites vous lorsque le choix se présente à vous aujourd'hui ?

[beagle2]

oui, mais cela ne va se passer comme ça, moi je te le dis,avec cette satanée IA,
ma stratégiesera de le faire systematiquement à pile ou face.
Oui mais alors on sort de l'énoncé initial?
Oui mais c'est pas les IA qui vont venir me casse les ....

[Vassillia]

Tu as le droit Beagle2, c'est dans les règles mais devant l'enjeu du gain potentiel, le feras-tu vraiment ?
En tout cas, l'IA ne le pense pas et a fait un pronostic impactant le contenu de la boite B.

Par exemple, si je te demande de choisir entre sauter d'un avion avec ou sans parachute, l'IA peut penser que si tu es suicidaire, tu sautes sans parachute alors que si tu tiens à la vie, tu prends le parachute. Perso, je ne ferai surement pas ce choix au hasard, je n'ai pas assez confiance en mes capacités à trouver une combine pour contrer l'effet de la gravité sans parachute

On est d'accord que ce n'est rien d'autre qu'une expérience de pensée mais cela ne l’empêche pas d'être amusante si on joue le jeu car des arguments sont assez légitimes pour les 2 choix je trouve.

[GaBuZoMeu]

Bonsoir,

Si l'IA est suffisamment perfectionnée pour deviner que Beagle va tirer son choix à pile ou face, elle va être sacrément em...dée !
Peut-elle deviner à l'avance le résultat d'un tirage à pile ou face avec 90% de chances de succès ?

[hdci]

En fournissant une pièce truquée ?

[Vassillia]

On ne s'est pas compris. L'IA pense que Beagle ne va pas tirer à pile ou face justement, elle pense qu'il va réfléchir et faire le choix le plus logique pour lui. Elle n'a pas forcément tort, la psyché humaine fait qu'on a quand même pour la plupart tendance à réfléchir avant de faire un choix à fort enjeu.
Si vous y tenez vraiment, on peut considérer que l'IA est tellement perfectionnée, qu'elle a effectivement deviné qu'il tire à pile ou face et donc elle va essayer d'anticiper la manière de lancer de Beagle pour prédire le résultat de la pièce. Après tout, c'est parfaitement déterministe une fois la pièce lancée, c'est juste qu'on n'est pas fichu de le modéliser. Je sais, là j'exagère vraiment mais c'est une expérience de pensée.

Rien n’empêche concrètement Beagle de choisir au hasard, tout comme rien ne l’empêche de faire le choix que l'IA n'a pas prévu. Mais d'après les expériences précédentes, l'IA a raison dans 90% des cas et la personne qui doit choisir le sait. Entendons nous bien, je ne prétends pas qu'une telle IA existe ni même qu'elle existera jamais mais il n'est pas ridicule de penser qu'une IA peut prédire au moins en partie le comportement humain et qu'elle fera mieux que 50%. En tout cas, ce sont les règles du jeu et il faut les accepter pour rentrer dans le paradoxe de Newcomb.

[hdci]

En fait Beagle a une chance sur deux de faire partie des 10% d'échecs de l'IA...

[Vassillia]

Pourquoi une chance sur deux de faire partie des 10% d'échec ? Pour Beagle, comme pour les autres, on peut considérer que l'IA a 90% de chances d'avoir une prédiction qui va se vérifier et 10% de chances d'avoir une prédiction qui ne va pas se vérifier. Comment l'IA fait ses calculs ? Cela ne regarde qu'elle, il n'est pas ni plus ni moins imprévisible que n'importe qui à priori.

Mais oublions Beagle un instant, vous n'allez pas me dire que vous allez tous choisir en tirant à pile à face quand même. La plupart du temps, lorsque ce paradoxe est présenté, le choix est assez partagé mais par contre assez catégorique.