1 В избранное 0 Ответвления 0

OSCHINA-MIRROR/harlin_zhang-SillyMonkey

 / Детали:

Проблема точности вычислений в DataContainer ItemInfo LoLimit HiLimit

Предстоит сделать
Владелец
Создано  
01.12.2024

LoLimit = _llScale * ll;
HiLimit = _hlScale * hl;

Иногда вычисления с плавающей точкой могут привести к проблемам с точностью вычислений. Модифицируйте следующим образом:

LoLimit = Convert.ToSingle(Convert.ToDecimal(_llScale) * Convert.ToDecimal(ll));
HiLimit = Convert.ToSingle(Convert.ToDecimal(_hlScale) * Convert.ToDecimal(hl));

Комментарий (0)

GitLife Service Account Задача создана

Вход Перед тем как оставить комментарий

Статус
Ответственный
Контрольная точка
Pull Requests
Связанные запросы на слияние могут быть закрыты после их объединения
Ветки
Дата начала   -   Крайний срок
-
Закрепить/Открепить
Приоритет
Участники(1)
1
https://api.gitlife.ru/oschina-mirror/harlin_zhang-SillyMonkey.git
git@api.gitlife.ru:oschina-mirror/harlin_zhang-SillyMonkey.git
oschina-mirror
harlin_zhang-SillyMonkey
harlin_zhang-SillyMonkey