수치해석: 자연과학, 공학, 의학, 그리고 사회과학 등에 나타나는 문제 중, 수학적인 문제로 표현될 수 있는 문제들을 궁극적으로 컴퓨터를 이용하여 해결하고자 하는 수학의 실질적인 응용분야, 연속수학 (continuous mathematics) 문제를 해결하기 위한 알고리즘을 연구하는 학문, 해석학 문제에서 수치적인 근사값을 구하는 알고리즘을 연구하는 학문
고대 수치해석: 바빌로니아 사람들이 점토판에 육십진법으로 단위길이 사각형의 대각선의 길이를 수치적 근사값을 구해놓은 것 (YBC 7289 참고)
현대 수치해석 목표: 정확한 해를 구하는 것이 실제로는 불가능한 경우가 많음, 그대신 수치해석에서는 합리적인 수준의 오차를 갖는 근사값을 구하는 것에 집중