Sujet Précédent Sujet Suivant

Augmenter la précision

Résolu/Fermé
th.deudon Messages postés 399 Date d'inscription mardi 2 juillet 2013 Statut Membre Dernière intervention 30 juillet 2015 - 29 juil. 2013 à 14:18
th.deudon Messages postés 399 Date d'inscription mardi 2 juillet 2013 Statut Membre Dernière intervention 30 juillet 2015 - 30 juil. 2013 à 11:17
Salut , c'est encore moi

J'ai un petit soucis, ma précision qui devrait être à un poil près se trouve être plutôt à 100m près... ( je travaille avec des valeurs plutôt grande ) , j'ai compris d'ou vient l'erreur, de la précision de mes calculs, quand je met print Var1/Var2, j'ai une précision de merde ( et en plus elle est sous le format 5222E34 .. ) est possible de la faire tourner au régime 64 bit ( il me semble que c'est ca ) ?

5 réponses

Réponse 1 / 5
dubcek Messages postés 18718 Date d'inscription lundi 15 janvier 2007 Statut Contributeur Dernière intervention 22 mars 2024 5 615
30 juil. 2013 à 08:53
les 15 prémières décimales sont correctes
$ echo | awk '{printf "%42.38lf\n", sqrt(2.0)}'
  1.41421356237309514547462185873882845044
1
th.deudon Messages postés 399 Date d'inscription mardi 2 juillet 2013 Statut Membre Dernière intervention 30 juillet 2015 15
30 juil. 2013 à 08:55
En fait 12 me suffisent, j'avais du oublier un truc, je sais pas ou car j'en avais max 6 ^^
0
Réponse 2 / 5
mamiemando Messages postés 33079 Date d'inscription jeudi 12 mai 2005 Statut Modérateur Dernière intervention 23 avril 2024 7 749
30 juil. 2013 à 03:14
Dans quel langage et/ou avec quel outil ?

Bonne chance
0
Réponse 3 / 5
dubcek Messages postés 18718 Date d'inscription lundi 15 janvier 2007 Statut Contributeur Dernière intervention 22 mars 2024 5 615
30 juil. 2013 à 08:21
hrello
c'est un problème de calcul ou juste d'impression ?
0
Réponse 4 / 5
th.deudon Messages postés 399 Date d'inscription mardi 2 juillet 2013 Statut Membre Dernière intervention 30 juillet 2015 15
30 juil. 2013 à 08:44
Bon finalement je sais pas pourquoi mais printf ( "%.12g\n" , X ) a finit par marché ^^
0

Vous n’avez pas trouvé la réponse que vous recherchez ?

Posez votre question
Réponse 5 / 5
th.deudon Messages postés 399 Date d'inscription mardi 2 juillet 2013 Statut Membre Dernière intervention 30 juillet 2015 15
30 juil. 2013 à 10:54
Comment puis je faire
Variable2= $Variable1*$Pi/180 sans avoir d'erreur?
il me dit "error is ".14159265/180"
Ouai sauf que si j'enleve les virgule, j'ai pas de précision.... ^^

en gros faut que je transforme Variable2 en Radian :p
0
dubcek Messages postés 18718 Date d'inscription lundi 15 janvier 2007 Statut Contributeur Dernière intervention 22 mars 2024 5 615
30 juil. 2013 à 11:00
il n'y a pas de calcul flottant en shell, uiliser awk ou bc 
Variable2=$(echo "scale=12; $Variable1*$Pi/180") |bc
0
th.deudon Messages postés 399 Date d'inscription mardi 2 juillet 2013 Statut Membre Dernière intervention 30 juillet 2015 15
30 juil. 2013 à 11:07
MMMMh, ca marche pas des masses non plus :) , j'ai rien si je fais echo $Variable2
:/
0
dubcek Messages postés 18718 Date d'inscription lundi 15 janvier 2007 Statut Contributeur Dernière intervention 22 mars 2024 5 615
30 juil. 2013 à 11:09
oops 
Variable2=$(echo "scale=12; $Variable1*$Pi/180" |bc)
0
th.deudon Messages postés 399 Date d'inscription mardi 2 juillet 2013 Statut Membre Dernière intervention 30 juillet 2015 15
30 juil. 2013 à 11:11
oulalala, dubcek il s'est trompé :)

Merci, ca marche parfaitement
0
dubcek Messages postés 18718 Date d'inscription lundi 15 janvier 2007 Statut Contributeur Dernière intervention 22 mars 2024 5 615
30 juil. 2013 à 11:14
c'est pas moi, c'est le copier/coller :-))
0

Discussions similaires

Hon hai precision
SamirSeboui -
Samirseboui -

8 réponses
Augmentation d'un score Snapchat : comment c'est possible ?
Emile402 -
Greg -

7 réponses
Hon hai precision ind. Co.,Ltd. ?
TheCheese -
hamimrd -

2 réponses
Améliorer débit Freebox Pop Fibre trop lent+accès Freebox OS
Alexfleur88 -
JC -

5 réponses
programme qui n'affiche pas le mot secret
EMy.chev -
yg_be -

3 réponses