Непонятки :
Кто-то может на пальцах обьяснить эту странность INT() ? Выходит, безопаснее использовать ROUND(x,0).
VFP9+SP2.

А в чем собственно непонятки? В обоих случаях Фокс выводит 205. Что еще может быть?

rud
А в чем собственно непонятки? В обоих случаях Фокс выводит 205. Что еще может быть?

В первом случае возвращается 205, во втором - 204. Причем, это не только у меня на моей машине.

VFP9 - в обоих случаях выводит 205
VFP9 SP2 - 205 и 204 соответственно

Asws
VFP9 - в обоих случаях выводит 205
VFP9 SP2 - 205 и 204 соответственно

Это что, одно из исправлений/улучшений, предусмотреных в SP2 ?

Кто знает, может винить SP2 не стоит, MS сами не знали наверное о таком эффекте.
У меня буквально на днях аналогичная ситуация, только с JavaScript,
что интересно, под всеми пятью установленными у меня браузерами:

Перемножал два числа, 11 и 0.55
так вот такой код:
выводит 6.050000000000001

пришлось извращаться :
чтобы получить правильные 6.05




Исправлено 4 раз(а). Последнее : Asws, 05.09.09 22:42

Максимальный размер числовых и полей с плавающей точкой = 20 знаков

Цитата:

? int(2.050000000000000043*100)

а это явный перебор, вот лиса и запуталась

HouseManedger
Максимальный размер числовых и полей с плавающей точкой = 20 знаков

Цитата:

? int(2.050000000000000043*100)

а это явный перебор, вот лиса и запуталась

А чего тут путаться - сколько бы знаков не помещалось в разрядной сетке, в целой части получается всегда 205. Это и ожидалось увидеть.

Y menja tozhe vyvodit
205/204 (VFP9 SP2) i tozhe neponjatno.

vfp6-9sp2 везде одинаково - но в некоторых ситуациях видень "глюк" вычислителя фокса в Display Memory
А если не *100 а умножить *10*10 то все работает номрально

Ну а фукнция Float - вам в подарок от меня
Только она ничего не делает

Может кто ответит, у кого чистый VFP9 или VFP9+SP1. Хочется уточнить, является ли этот глюк особенностью SP2. Хотя в SP2 и без этого достаточно глюков. А ведь эта самая "ошибка вычислителя", при всей свой кажущейся невинности, может сильно подпортить работу проекта, когда, например, сравниваешь целое с дробным. Сильно не хочется заниматься глупостью и переписывать проект, заменяя INT(x) на ROUND(x,0) или INT(ROUND(x,0)).



Исправлено 1 раз(а). Последнее : reware, 06.09.09 08:34

reware
Может кто ответит, у кого чистый VFP9 или VFP9+SP1. Хочется уточнить, является ли этот глюк особенностью SP2.

У меня VFP9.0 SP1 Результат тот же 205,204.

У меня еще веселее. Если сделать, как написано у автора темы
? int(2.050000000000000044*100)
? int(2.050000000000000043*100)
то выводит соответственно 205 и 204
А если вот так:
a=int(2.050000000000000044*100)
MESSAGEBOX(a)
int(2.050000000000000043*100)
MESSAGEBOX(a)
то оба раза выводится 205

Понял в третьей строчке не прописано a=

dimuhametov
У меня VFP9.0 SP1 Результат тот же 205,204.

Осталось выяснить, что будет на чистом VFP9 без SP. Есть подозрение, что оно так и по жизни на VFP работало, только мало кто этим интересовался. Я пытался в баг-листах SP2 что-нить по теме найти, но там столько багов, что мне быстро надоело.

Интересно, сколько раз нужно повторить про гарантированную точность в фоксе только до 16 знаков после запятой? Похоже, тема из категории вечных.

Тем более что "проблема int(21)" уже лет 15 назад обсуждалась
Как правильно сказал Сергей - игра на грани фола фувствительнсоти фокса никчему не приведенот тем более после Display memory это видно как ФОКС видит эта цифры только "учет "шума"" не показыватся явно - а он был - есть и будет ;)





Исправлено 1 раз(а). Последнее : piva, 06.09.09 12:36

piva
Тем более что "проблема int(21)" уже лет 15 назад обсуждалась Как правильно сказал Сергей - игра на грани фола фувствительнсоти фокса никчему не приведенот тем более после Display memory это видно как ФОКС видит эта цифры только "учет "шума"" не показыватся явно - а он был - есть и будет ;)

"Петя, сходи в соседнюю комнату, посмотри, что там делают дети и скажи им, чтобы они этого не делали".
И, стало быть, чтобы исковеркать целую часть дробного результата, достаточно для получения этого самого результата задать дробный параметр с 20 знаками ? Хотя, этот 20-й знак никак не должен влиять на целую часть.



Исправлено 1 раз(а). Последнее : reware, 06.09.09 12:45

ssa
Интересно, сколько раз нужно повторить про гарантированную точность в фоксе только до 16 знаков после запятой? Похоже, тема из категории вечных.

мало того что эта тема из вечных - она всегда напоминает разговор слепых с глухими

ну не понимаю люди что число математическое - это математическое число
а число вещественное в памяти компьютера это число вещественное - и если вы заходите за рамки точности(причем еще и явно вручную) то и можете получить самые непредсказуемые результаты
использовать ИНТ для отделения целой части неокругленного до малых знаков числа - есть просто глупость(ИМХО) - что и подтверждают ваши опытные изыскания

Вот уж точно НЕПРЕДСКАЗУЕМЫЕ результаты.