수치해석학 Numerical Analysis

수치해석학

1. 수치해석이 역사와 특징

1.1 수치해석의 정의

 

2. MATLAB

2.1 MATLAB 개요

2.2 MATLAB과 배열

 

3.

 

4. 오차해석

4.1 수의 표기법

• 2진 정수와 10진 정수

• MATLAB에서 2진 정수와 10진 정수 상호 변환

• 2진 소수와 10진 소수

  • 2진 소수 10진 소수로 변환

  • 10진 소수를 2진 소수로 변환

  • MATLAB을 이용하여 2진 소수를 10진 소수로 상호 변환

4.2 컴퓨터의 수의 표시법

• 고정 소수점 표시

• 부동 소수점 표시

• 끝수처리

• 정규형태

• 단정도 표현

• 배정도 표현

4.3 오차

• 오차

• 절대오차와 상대오차

• 유효숫자에 따른 오차

• 전환오차

• 덧셈과 뺄셈에서의 오차

• 곱셈과 나눗셈에서의 오차