|
:: 게시판
:: 이전 게시판
|
- PGR21 관련된 질문 및 건의는 [건의 게시판]을 이용바랍니다.
- (2013년 3월 이전) 오래된 질문글은 [이전 질문 게시판]에 있습니다. 통합 규정을 준수해 주십시오. (2015.12.25.)
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
22/06/21 17:12
엑셀에 먼저 데이터를 기록을 하고 이 엑셀파일 데이터를 DB에서 읽어와 추가로 연산을 한 후 기록을 한다는 말씀이신 것으로 이해했는데요.
그렇다면 엑셀에서 해당 칼럼의 데이터 형식 문제가 아닐까 싶은데요. 근데 이게 원래 디자인이 이럴 수도 있습니다. Float라는 값의 형태가 생각만큼 정확하지 않습니다. Float64냐 Float32냐에 따라 이 오차가 허용범위 내인지 아닌지가 갈릴 수도 있고요. 158.22999999999.... 는 158.23 이랑은 사실 수학적으로 동일하기도 하고 컴퓨터적으로 동일하게 인식하는 경우가 흔히 있는 경우입니다. 부동소수점의 오차로 한번 검색해보세요.
22/06/21 17:55
(수정됨) 부동소수점을 서로 다른 프로그램에서 결과를 정확히 맞추기가 원래 좀 까다로운 문제입니다.
엑셀이 부정확한 결과일 수도 있음을 고려해보시고요.. 틀린 숫자에 어거지로 맞추려고 하면 방법이 없을 수도 있습니다. (https://docs.microsoft.com/en-us/office/troubleshoot/excel/floating-point-arithmetic-inaccurate-result)
|
||||||||||