คำถามในหัวข้อ 'precision'
การหมุนพิกัด 3 มิติขาดความแม่นยำในมุมมอง 2 มิติ
ดังนั้นฉันจึงเขียนโปรแกรมเพื่อวาดและแสดงลูกบาศก์ 3 มิติ โดยใช้สูตรการแปลงอย่างง่ายเหล่านี้ที่ใช้ในกราฟสามมิติ:
x2 = x*cos(30) - y*cos(30)
y2 = x*sin(30) + y*sin(30) + z
การแปลงพิกัดเป็นเรื่องปกติและทุกอย่างจะออกมาในมุมมอง...
954 มุมมอง
schedule
09.12.2023
วิธีการใช้ std :: setprecision ในขณะที่ทำการร่ายจาก float เป็นสองเท่า [ซ้ำกัน]
ฉันมีค่า float ต่อไปนี้ที่กำลังแปลงเป็น double
float fVal = 0.0f;
double dVal = static_cast<double>(fVal);
ฉันต้องการควบคุมจำนวนตำแหน่งทศนิยมที่ dVal ได้รับ ฉันพบ std::setprecision แต่ตัวอย่างทั้งหมดสาธิตการใช้งานใน std::cout s...
43 มุมมอง
schedule
15.12.2023
วิธีจัดเก็บผลลัพธ์การคำนวณทศนิยมใน mysql และดึงข้อมูลกลับมาเหมือนที่อยู่ในหน่วยความจำ
เอกสารประกอบ MySQL พูด :
ประเภท DECIMAL และ NUMERIC จะเก็บค่าข้อมูลตัวเลขที่แน่นอน ประเภทเหล่านี้จะใช้เมื่อจำเป็นต้องรักษาความแม่นยำที่แน่นอน เช่น กับข้อมูลทางการเงิน
ฉันทำการทดสอบนี้ในคอลัมน์นั้น decimal_column DECIMAL(31,30)...
187 มุมมอง
schedule
07.01.2024
ความแตกต่างระหว่างค่า Java และ postgres ของ BigDecimal/ตัวเลข
ฉันใช้ประเภท BigDecimal ในโครงการ Java ฉันกำลังพยายามบันทึกโดยใช้ฟังก์ชันที่มีช่องตัวเลข Java และ postgres มีค่าต่างกัน เช่น. ค่า 56.97 จาก Java บันทึกเป็น 56.9699999999999989 ใน postgres ฉันจะป้องกันได้อย่างไร?
334 มุมมอง
schedule
08.12.2023