Вопросы по теме 'precision'

Вращение 3D-координат отсутствует Точность в перспективе 2D
Поэтому я написал программу для рисования и отображения трехмерного куба, используя эти простые формулы преобразования, используемые в изометрических графиках: x2 = x*cos(30) - y*cos(30) y2 = x*sin(30) + y*sin(30) + z Преобразование...
954 просмотров
schedule 09.12.2023

как применить std::setprecision при приведении от float к double
У меня есть следующее значение float , которое преобразуется в double float fVal = 0.0f; double dVal = static_cast<double>(fVal); Я хочу контролировать количество знаков после запятой, которое получает dVal. Я нашел...
43 просмотров
schedule 15.12.2023

Как сохранить результат десятичного вычисления в mysql и вернуть его обратно в том виде, в каком он был в памяти
Документация MySQL говорит : Типы DECIMAL и NUMERIC хранят точные числовые значения данных. Эти типы используются, когда важно сохранить точную точность, например, с денежными данными. Я сделал этот тест на столбце decimal_column...
187 просмотров

Разница между Java и postgres значением BigDecimal/numeric
Я использую тип BigDecimal в проекте Java. Я пытаюсь сохранить его, используя функцию с числовым полем. Java и postgres имеют разное значение. Например. Значение 56,97 из Java сохраняется как 56,9699999999999989 в postgres. Как я могу...
334 просмотров