คำถามในหัวข้อ 'precision'

การหมุนพิกัด 3 มิติขาดความแม่นยำในมุมมอง 2 มิติ
ดังนั้นฉันจึงเขียนโปรแกรมเพื่อวาดและแสดงลูกบาศก์ 3 มิติ โดยใช้สูตรการแปลงอย่างง่ายเหล่านี้ที่ใช้ในกราฟสามมิติ: x2 = x*cos(30) - y*cos(30) y2 = x*sin(30) + y*sin(30) + z การแปลงพิกัดเป็นเรื่องปกติและทุกอย่างจะออกมาในมุมมอง...
954 มุมมอง
schedule 09.12.2023

วิธีการใช้ std :: setprecision ในขณะที่ทำการร่ายจาก float เป็นสองเท่า [ซ้ำกัน]
ฉันมีค่า float ต่อไปนี้ที่กำลังแปลงเป็น double float fVal = 0.0f; double dVal = static_cast<double>(fVal); ฉันต้องการควบคุมจำนวนตำแหน่งทศนิยมที่ dVal ได้รับ ฉันพบ std::setprecision แต่ตัวอย่างทั้งหมดสาธิตการใช้งานใน std::cout s...
43 มุมมอง
schedule 15.12.2023

วิธีจัดเก็บผลลัพธ์การคำนวณทศนิยมใน mysql และดึงข้อมูลกลับมาเหมือนที่อยู่ในหน่วยความจำ
เอกสารประกอบ MySQL พูด : ประเภท DECIMAL และ NUMERIC จะเก็บค่าข้อมูลตัวเลขที่แน่นอน ประเภทเหล่านี้จะใช้เมื่อจำเป็นต้องรักษาความแม่นยำที่แน่นอน เช่น กับข้อมูลทางการเงิน ฉันทำการทดสอบนี้ในคอลัมน์นั้น decimal_column DECIMAL(31,30)...
187 มุมมอง

ความแตกต่างระหว่างค่า Java และ postgres ของ BigDecimal/ตัวเลข
ฉันใช้ประเภท BigDecimal ในโครงการ Java ฉันกำลังพยายามบันทึกโดยใช้ฟังก์ชันที่มีช่องตัวเลข Java และ postgres มีค่าต่างกัน เช่น. ค่า 56.97 จาก Java บันทึกเป็น 56.9699999999999989 ใน postgres ฉันจะป้องกันได้อย่างไร?
334 มุมมอง