[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions.php on line 4980: session_start(): Write of lock failed
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions.php on line 4980: session_start(): Unable to clear session lock record
Processing, erreur d'arrondi [4 réponses] : ϟ Informatique - 232337 - Forum de Mathématiques: Maths-Forum

Processing, erreur d'arrondi

Discutez d'informatique ici !
ludovic44
Membre Naturel
Messages: 62
Enregistré le: 12 Juin 2021, 13:22

Processing, erreur d'arrondi

par ludovic44 » 30 Juin 2021, 12:15

Bonjour, débutant en processing, je suis resté un moment bloqué devant un résultat qui n'était pas celui souhaité.
J'ai fini par comprendre que le calculateur fait des arrondis.
J'ai testé le "programme suivant":

x=2/3
print(x)

Affichage: 0

J'ai aussi testé cela:

x=float(2/3)
print(x)

Affichage: 0.0

J'ai beau chercher, je ne trouve rien sur le web.

Merci d'avance pour votre aide



ludovic44
Membre Naturel
Messages: 62
Enregistré le: 12 Juin 2021, 13:22

Re: Processing, erreur d'arrondi

par ludovic44 » 30 Juin 2021, 13:08

Je viens de remarquer que si j'écris: 2.0/3, cela donne le bon résultat.
Néanmoins, si j'écris:
a=2
x=a.0/3, cela donne un message d'erreur....

danyL
Membre Rationnel
Messages: 681
Enregistré le: 03 Jan 2015, 14:29

Re: Processing, erreur d'arrondi

par danyL » 30 Juin 2021, 13:18

ce n'est pas vraiment une histoire d'arrondi, mais de conversion de types de données
je ne connais pas Processing mais apparemment si c'est un langage similaire au C par exemple,
quand on affecte un float à une variable de type entier, il y a une perte de valeur
car on convertit une valeur décimale en une valeur entière.

quand on écrit 2/3 ce sont 2 entiers, par défaut le résultat sera calculé en entier
par contre 2.0 est un float, par défaut le calcul sera fait en décimal

un exemple ici de conversion réel vers entier
https://processing.org/reference/intconvert_.html

ludovic44
Membre Naturel
Messages: 62
Enregistré le: 12 Juin 2021, 13:22

Re: Processing, erreur d'arrondi

par ludovic44 » 30 Juin 2021, 15:08

Bonjour, merci pour la réponse.
Je n'ai pas rencontré ce genre de problèmes sur Python...
J'ai fini par m'en sortir. Il faut en effet, à un moment ou un autre, mettre un ".0"... Curieux.
J'ai du faire un truc dans le style:

if bablaba:
n=n+1.0
x=a/n

Et là, plus de soucis....

Merci encore :-)

danyL
Membre Rationnel
Messages: 681
Enregistré le: 03 Jan 2015, 14:29

Re: Processing, erreur d'arrondi

par danyL » 30 Juin 2021, 17:52

ludovic44 a écrit:Je n'ai pas rencontré ce genre de problèmes sur Python...

en Python les variables ne sont pas typées

 

Retourner vers ϟ Informatique

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 3 invités

Tu pars déja ?



Fais toi aider gratuitement sur Maths-forum !

Créé un compte en 1 minute et pose ta question dans le forum ;-)
Inscription gratuite

Identification

Pas encore inscrit ?

Ou identifiez-vous :

Inscription gratuite
[phpBB Debug] PHP Warning: in file Unknown on line 0: Unknown: Failed to write session data (memcached). Please verify that the current setting of session.save_path is correct (172.16.100.103:11211)