Pertanyaan tentang topik tersebut 'precision'

Rotasi koordinat 3D kurang Presisi dalam perspektif 2D
Jadi saya menulis sebuah Program untuk menggambar dan menampilkan kubus 3D, menggunakan rumus konversi sederhana seperti yang digunakan dalam grafik isometrik: x2 = x*cos(30) - y*cos(30) y2 = x*sin(30) + y*sin(30) + z Konversi koordinat...
954 dilihat
schedule 09.12.2023

cara menerapkan std::setprecision saat melakukan casting dari float ke double [duplikat]
Saya memiliki nilai float berikut yang sedang dikonversi ke double float fVal = 0.0f; double dVal = static_cast<double>(fVal); Saya ingin mengontrol jumlah tempat desimal yang didapat dVal. Saya menemukan std::setprecision ....
43 dilihat
schedule 15.12.2023

Bagaimana cara menyimpan hasil perhitungan desimal di mysql dan mengambilnya kembali seperti di memori
Dokumentasi MySQL mengatakan : Tipe DECIMAL dan NUMERIC menyimpan nilai data numerik yang tepat. Jenis ini digunakan ketika penting untuk menjaga presisi yang tepat, misalnya dengan data moneter. Saya melakukan tes ini pada kolom itu...
187 dilihat

Perbedaan antara nilai Java dan postgres BigDecimal/numerik
Saya menggunakan tipe BigDecimal dalam proyek Java. Saya mencoba menyimpannya menggunakan fungsi dengan bidang numerik. Java dan postgres memiliki nilai yang berbeda. Misalnya. Nilai 56,97 dari Java disimpan sebagai 56,9699999999999989 di...
334 dilihat