Hầu hết các lập trình viên đều cho rằng việc chuyển đổi số nguyên sang số thập phân trong máy tính là an toàn và chính xác. Niềm tin này đã dẫn đến vô số lỗi và hành vi bất ngờ trong các hệ thống phần mềm. Thực tế phức tạp hơn nhiều và tiết lộ một hạn chế cơ bản trong cách máy tính biểu diễn các số.
Sự Thật Đáng Ngạc Nhiên Về Chuyển Đổi Số
Khi bạn chuyển đổi một số nguyên 32-bit sang số thực 32-bit, bạn có thể mất độ chính xác tuyệt đối. Điều này xảy ra vì cả hai kiểu dữ liệu đều sử dụng cùng một lượng không gian lưu trữ nhưng biểu diễn các tập hợp số hoàn toàn khác nhau. Chỉ có khoảng 3,5% tổng số các số nguyên 32-bit có thể được biểu diễn chính xác dưới dạng số thực 32-bit. Tình hình trở nên tồi tệ hơn với các số 64-bit, khi chỉ có 0,5% số nguyên có thể được biểu diễn hoàn hảo dưới dạng double.
Vấn đề bắt nguồn từ cách hoạt động của các số dấu phẩy động. Chúng sử dụng ký hiệu khoa học, chia các bit của mình giữa các chữ số thực tế và số mũ xác định vị trí dấu thập phân. Một số thực 32-bit dành 23 bit để lưu trữ các chữ số có nghĩa, 8 bit cho số mũ và 1 bit cho dấu. Điều này có nghĩa là các số nguyên yêu cầu hơn 23 bit độ chính xác đơn giản là không thể khớp chính xác.
Ký hiệu khoa học: Một cách viết số dưới dạng hệ số nhân với lũy thừa của 10 (như 1,23 × 10^5 cho 123.000)
Thống kê Chuyển đổi Số nguyên 32-bit sang Float:
- Tổng số nguyên 32-bit: 2^32 (khoảng 4,3 tỷ)
- Có thể biểu diễn chính xác dưới dạng float 32-bit: 9 × 2^23 (khoảng 75 triệu)
- Tỷ lệ phần trăm có thể biểu diễn chính xác: ~3,5%
- Bit độ chính xác trong float32: 23 bit
- Bit số mũ trong float32: 8 bit
Tác Động Thực Tế Đến Phát Triển Phần Mềm
Việc mất độ chính xác này ảnh hưởng đến lập trình hàng ngày theo những cách bất ngờ. Lập trình đồ họa, tính toán tài chính và các hệ thống tuần tự hóa dữ liệu đều gặp phải những vấn đề này. Một số định dạng dữ liệu tự động chuyển đổi giữa số nguyên và số thực trong quá trình nâng cấp phiên bản, có khả năng làm hỏng dữ liệu mà không cảnh báo.
Cộng đồng đã xác định một số vấn đề thực tế. Các đặc tả WebGPU đã phải tính đến hạn chế này khi thiết kế các hàm chuyển đổi của họ. Nhiều ngôn ngữ lập trình cho phép chuyển đổi tự động từ số nguyên sang số thực nhưng chặn việc chuyển đổi ngược lại, tạo ra một mối quan hệ bất đối xứng gây nhầm lẫn cho các nhà phát triển.
Một sự thật đáng tiếc khác là max int (có dấu và không dấu) cũng không phải là một số thực. Điều này có nghĩa là bạn không thể viết chuyển đổi ftoi có giới hạn chỉ trong dấu phẩy động.
Tại Sao Điều Này Quan Trọng Đối Với Các Ngôn Ngữ Lập Trình Khác Nhau
Các ngôn ngữ lập trình khác nhau xử lý vấn đề này theo nhiều cách khác nhau. JavaScript chỉ sử dụng số thực 64-bit cho tất cả các số, có thể biểu diễn chính xác các số nguyên 32-bit nhưng vẫn có giới hạn độ chính xác đối với các giá trị lớn hơn. Python hỗ trợ số nguyên có kích thước không giới hạn, làm cho vấn đề chuyển đổi trở nên rõ ràng hơn khi những số lớn này gặp phải các phép toán dấu phẩy động.
Vấn đề trở nên phức tạp hơn khi xem xét rằng nhiều nhà phát triển nghĩ về số thực như các phiên bản máy tính của số thực thay vì hiểu bản chất thực sự của chúng như ký hiệu khoa học với độ chính xác hạn chế. Mô hình tư duy này dẫn đến những giả định sai lầm về thời điểm chuyển đổi là an toàn.
Độ chính xác: Số chữ số có nghĩa mà một định dạng số có thể lưu trữ chính xác
Cấu trúc định dạng số thực dấu phẩy động IEEE 754:
| Thành phần | Float32 | Float64 |
|---|---|---|
| Bit dấu | 1 bit | 1 bit |
| Số mũ | 8 bits | 11 bits |
| Mantissa/Phần thập phân | 23 bits | 52 bits |
| Tổng cộng | 32 bits | 64 bits |
| Dạng | ±1.f × 2^e | ±1.f × 2^e |
Hiểu Toán Học Đằng Sau Hạn Chế
Giải thích toán học tiết lộ tại sao vấn đề này không thể tránh khỏi. Cả số nguyên 32-bit và số thực 32-bit đều có thể biểu diễn chính xác cùng một tổng số các giá trị khác nhau. Tuy nhiên, chúng biểu diễn các tập hợp số hoàn toàn khác nhau. Số thực có thể biểu diễn các số rất lớn và rất nhỏ nhưng với khoảng cách giữa các giá trị có thể biểu diễn. Số nguyên biểu diễn các số nguyên liên tiếp trong một phạm vi hạn chế.
Điều này tạo ra một sự đánh đổi cơ bản. Khi bạn chuyển đổi từ số nguyên sang số thực, bạn có được khả năng biểu diễn các giá trị phân số và các số lớn hơn nhiều, nhưng bạn mất đi sự đảm bảo rằng mọi số nguyên trong phạm vi của bạn có thể được biểu diễn chính xác. Việc chuyển đổi tạo ra các lỗi làm tròn có thể tích lũy trong các phép tính và gây ra các lỗi tinh vi.
Thảo luận cộng đồng tiết lộ rằng nhiều lập trình viên có kinh nghiệm đã gặp phải vấn đề này một cách bất ngờ, đặc biệt khi làm việc với các tập dữ liệu lớn hoặc các phép tính chính xác nơi mà mỗi bit đều quan trọng.
Tham khảo: Most ints are not floats