Вопросы по теме 'precision'
Вращение 3D-координат отсутствует Точность в перспективе 2D
Поэтому я написал программу для рисования и отображения трехмерного куба, используя эти простые формулы преобразования, используемые в изометрических графиках:
x2 = x*cos(30) - y*cos(30)
y2 = x*sin(30) + y*sin(30) + z
Преобразование...
954 просмотров
schedule
09.12.2023
как применить std::setprecision при приведении от float к double
У меня есть следующее значение float , которое преобразуется в double
float fVal = 0.0f;
double dVal = static_cast<double>(fVal);
Я хочу контролировать количество знаков после запятой, которое получает dVal. Я нашел...
43 просмотров
schedule
15.12.2023
Как сохранить результат десятичного вычисления в mysql и вернуть его обратно в том виде, в каком он был в памяти
Документация MySQL говорит :
Типы DECIMAL и NUMERIC хранят точные числовые значения данных. Эти типы используются, когда важно сохранить точную точность, например, с денежными данными.
Я сделал этот тест на столбце decimal_column...
187 просмотров
schedule
07.01.2024
Разница между Java и postgres значением BigDecimal/numeric
Я использую тип BigDecimal в проекте Java. Я пытаюсь сохранить его, используя функцию с числовым полем. Java и postgres имеют разное значение. Например. Значение 56,97 из Java сохраняется как 56,9699999999999989 в postgres. Как я могу...
334 просмотров
schedule
08.12.2023