절대적 발전

  • 홈
  • 태그
  • 방명록

2021/01/18 1

정확한 계산이 필요할 땐 float와 double은 피하자

정확한 계산이 필요할 땐 float와 double은 피하자 float와 double 타입은 과학과 공학 계산용으로 설계되었다. 이진 부동소수점 연산에 쓰이며, 넓은 범위의 수를 빠르게 정밀한 '근사치'로 계산하도록 세심하게 설계되었다. 따라서 정확한 결과가 필요할 때는 사용하면 안되며, 특히 금융 관련 계산과는 맞지 않는다. 0.1 혹은 10의 음의 거듭 제곱수를 표현할 수 없기 때문이다. 예를 들어 주머니에 1.03 달러가 있는데 그중 42센트를 썼다고 해보자, 남은 돈을 얼마인가? 다음은 어설프게 작성한 코드다 System.out.println(1.03 - 0.42); 안타깝게도 이 코드는 0.6100000000000001을 출력한다. 이는 특수한 사례도 아니다. 이번에는 1달러가 있는데, 10센트짜..

Java 2021.01.18
1
더보기
프로필사진

  • 분류 전체보기 (83)
    • 프로그래밍 (8)
    • IDE (3)
    • Java (13)
    • Spring (12)
    • Node.js (2)
    • Vue.js (1)
    • Flutter (5)
    • IT Tip (6)
    • Infrastructure (5)
    • 스터디-Spring (27)
    • 스터디-알고리즘 (1)

Tag

DART, Security, Spring, 소프트웨어 아키텍쳐, android, Flutter, frontend, 플러터, 스프링, docker, 튜토리얼, JPA, node, thymeleaf, 개발, 안드로이드, querydsl, EffectiveJava, windows10, java,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

Calendar

«   2021/01   »
일 월 화 수 목 금 토
1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31

방문자수Total

  • Today :
  • Yesterday :

티스토리툴바