[교육정책뉴스 권성준 기자] 48÷2(9+3)은 몇일까? 이 문제는 2011년 전 세계를 떠들썩하게 만들었던 수학 문제다. 이 문제에 대한 수학 학술 논문까지 등장할 정도로 뜨거운 주제였다.

대부분의 사람들이 답이 2와 288로 나뉘어 치열한 논쟁이 펼쳐졌었다. 심지어 사람만이 아니라 계산기에 따라서도 답이 두 개로 나뉘었다. 이유는 사칙연산 순서에 있었다.

답이 2가 나온 사람들은 9+3이 괄호 안에 있기 때문에 먼저 더해주고 괄호 때문에 생략된 2를 먼저 곱해서 48÷24를 계산한다. 실제로 미국 수학협회에는 곱셈 기호가 생략된 경우 나눗셈보다 먼저 계산해 준다는 규정이 있다.

한편 288이 나온 사람들은 9+3을 계산한 이후 식을 48÷2×12로 해석해서 왼쪽의 나눗셈부터 계산해 최종적으로 24×12를 계산해야 한다고 주장한다. 실제로 구글 계산기에 식을 입력하면 이 순서대로 풀어서 288이라는 결과가 나온다. 한국학교 수학회는 이 방법을 지지한다.

둘 다 맞는 말 같은데 왜 다른 결과가 나왔을까? 문제의 원인은 수식의 표기법에 있다. 두 방법은 괄호 앞에 있는 2의 곱셈을 어떤 순서로 처리해야 하는가의 문제가 발생한 것이다. 이는 연산자를 숫자 중간에 표기하는 중위 표기법 특유의 문제로 지적받는다.

계산 순서는 인류가 수학을 발달시키는 과정에서 자연스럽게 정립됐고 그래서 통합된 기준이 없기 때문에 발생한 모호성이다. 대신 크게 2가지 널리 알려진 계산 순서 법이 있는데 'BODMAS'와 'PEMDAS'라는 규칙이다.

먼저 BODMAS는 다음과 같은 순서로 계산하도록 한다.

1. 괄호 (), {}, [] 순서대로 먼저 계산한다.
2. 제곱을 계산한다.
3. 곱셈과 나눗셈을 계산한다.
4. 덧셈과 뺄셈을 마지막으로 계산한다.

PEMDAS는 다음과 같은 순서로 이루어져 있다. BODMAS와 크게 다르지 않다.

1. 괄호 (), {}, [] 순서대로 먼저 계산한다.
2. 지수 부분을 계산한다.
3. 곱셈과 나눗셈을 계산한다.
4. 덧셈과 뺄셈을 마지막으로 계산한다.

두 규칙 모두 이 네 가지 순서를 지키면서 왼쪽에서 오른쪽으로 계산하도록 규정한다.

하지만 두 규칙 모두 48÷2(9+3) 문제를 해결하는 데는 도움이 되지 않는다. 이 문제와 같은 경우는 괄호를 명확하게 표기하지 않아 발생한 문제다.

프로그래밍에서는 중위 표기법의 모호성을 피하기 위해서 연산자를 연산하려는 숫자 앞이나 뒤에 놓는 전위 표기법, 후위 표기법이 발달하기도 했다.