일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- API
- DRF
- js
- 알고리즘 문제
- django ORM
- AWS
- 알고리즘 연습
- java
- 파이썬
- HTML
- react
- PYTHON
- django rest framework
- Git
- 백준
- Django
- Algorithm
- 장고
- CSS
- MAC
- 파이썬 알고리즘
- 알고리즘 풀이
- 알고리즘
- django widget
- c++
- Baekjoon
- es6
- javascript
- form
- web
Archives
- Today
- Total
목록decimal (1)
수학과의 좌충우돌 프로그래밍
[python] Decimal vs Float, 고정소수점과 부동소수점
Float 우선 특별한 작업없이 소수를 사용할 경우 이는 float 타입으로 선언이 됩니다. 하지만 아래 결과를 보면 0.1을 할당한 a는 실제로 0.1이 아닌 많은 소수점을 가지고 있습니다. 왜 이런 문제가 발생하는 것일까요? a = 0.1 print(type(a)) print(f"{0.1: .30f}") # # 0.100000000000000005551115123126 컴퓨터가 실수를 표현하는 방식 아마 다들 아실테지만 컴퓨터는 기본적으로 2진수를 사용합니다. 그렇기 때문에 정수를 표현할 때는 문제가 되지 않지만 소수를 표현할 때는 문제가 발생합니다. 예를 들어 10진수 0.3을 2진수로 표현한다고 하면 0.01001100110011... 다음과 같이 표현이 됩니다. 무한히 0011이 반복되죠. 이러..
프로그래밍 언어/Python
2020. 6. 10. 23:15