AI는 인간의 실수를 예측할 수 있을까? 뇌 신호로 읽는 인지 상태

우리는 실수를 보통 그 순간에 일어난 사건이라고 생각한다. 조종사가 잘못된 판단을 하고, 운전자가 순간적으로 집중력을 잃고, 의료진이나 관제사가 중요한 정보를 놓친 뒤에야 “왜 이런 실수가 일어났을까?”를 묻는다. 하지만 신경과학은 조금 다른 가능성을 보여준다. 인간이 실수하기 전부터 뇌의 상태에는 이미 변화가 시작되고 있을 수 있다는 것이다.

집중력이 떨어지고, 피로가 쌓이고, 뇌가 처리해야 할 정보가 지나치게 많아지면 우리의 인지 상태도 달라진다. 문제는 이런 변화를 인간 자신이 항상 정확하게 인식하는 것은 아니라는 점이다. 나는 아직 괜찮다고 생각하지만 뇌에서는 이미 주의력 저하나 인지 과부하와 관련된 패턴이 나타나고 있을 수 있다.

그렇다면 AI가 이런 뇌 신호를 지속적으로 분석한다면 어떨까? 단순히 “지금 피곤하다”는 것을 알아내는 것을 넘어, 인간이 실수하기 전에 그 가능성을 예측할 수 있을까?

이 질문은 신경과학과 AI가 만나는 흥미로운 연구 영역으로 이어진다.

피로와 집중력 저하는 뇌에 흔적을 남긴다

우리의 뇌는 항상 같은 상태로 작동하지 않는다. 충분히 쉬었을 때와 오랫동안 집중한 뒤의 뇌 상태는 다르고, 쉬운 일을 할 때와 동시에 여러 정보를 처리해야 할 때의 뇌 상태도 다르다. 신경과학에서는 이런 변화를 뇌파(EEG)를 비롯한 여러 신경생리학적 신호를 이용해 연구해왔다.

특히 인지 작업부하(cognitive workload)는 중요한 연구 대상이다. 인간이 처리해야 할 정보가 늘어나면 뇌의 여러 영역과 주파수대에서 활동 패턴이 달라질 수 있다. 2025년 Neuroscience에 발표된 연구에서는 EEG를 이용해 인지 작업부하를 분류했으며, 특히 전두부 영역과 알파·세타파가 중요한 지표로 나타났다. 연구 환경과 분석 방식에 따라 성능은 달라질 수 있지만, 이 연구에서는 두 단계의 작업부하를 구분하는 실험에서 최대 96.6%의 분류 정확도가 보고됐다.

여기서 중요한 것은 특정 정확도 숫자 자체가 아니다. 뇌가 피로하거나 과부하 상태에 있을 때 나타나는 변화 가운데 일부를 기계가 측정하고 분류할 수 있다는 사실이다. 즉 인간의 인지 상태는 완전히 보이지 않는 것이 아니라, 어느 정도는 신경 신호에 흔적을 남긴다.

실제 비행 중인 조종사의 뇌도 읽을 수 있을까?

실험실에서 사람이 수학 문제를 풀 때 뇌파를 측정하는 것과 실제 조종석에서 뇌 상태를 측정하는 것은 전혀 다른 문제다. 실제 환경에서는 몸이 움직이고, 주변 소음과 진동이 있으며, 수많은 정보가 동시에 들어오기 때문에 뇌파에도 많은 잡음이 섞인다. 그래서 신경과학 연구가 실제 안전 시스템으로 발전하려면 통제된 실험실을 벗어나 현실에서도 작동해야 한다.

2025년 발표된 연구에서는 실제 비행환경에서 22명의 조종사에게 6개의 건식 전극으로 구성된 EEG 장치를 착용시키고 정신적 작업부하를 측정했다. 데이터 동기화 문제로 5명을 제외한 17명의 데이터를 분석한 결과, 머신러닝 모델은 조종사의 작업부하 수준을 평균 84.6%의 정확도로 분류했다. 연구진은 실제 비행 중의 소음, 진동, 전자기 간섭 등이 존재하는 환경에서도 비교적 적은 수의 전극으로 인지 작업부하를 탐지할 수 있다는 점에 의미를 두었다.

물론 이것을 “AI가 조종사의 실수를 84.6% 정확도로 예측했다”고 해석해서는 안 된다. 연구가 분류한 것은 실수 자체가 아니라 조종사의 정신적 작업부하 수준이다. 하지만 이 차이가 오히려 앞으로의 기술 발전을 이해하는 데 중요하다. 실수를 직접 예언하는 것보다 먼저 필요한 것은 실수 가능성을 높이는 인간의 인지 상태를 객관적으로 읽어내는 것이기 때문이다.

그렇다면 뇌는 실제 실수보다 먼저 신호를 보낼까?

여기서 더 흥미로운 신경과학 연구들이 등장한다. 인간의 주의력이 무너지는 과정이 실제 행동 오류가 발생하기 전에 뇌에서 나타날 수 있다는 연구들이다.

2009년 발표된 한 EEG 연구에서는 참가자들이 오랫동안 집중해야 하는 과제를 수행하도록 했다. 연구진이 정답을 놓친 경우와 정상적으로 반응한 경우의 뇌 활동을 비교했더니, 목표물을 놓치는 실수가 발생하기 약 20초 전부터 알파파 활동에서 차이가 나타나기 시작했다. 이후 오류가 가까워지면서 다른 신경 신호에서도 변화가 나타났다. 연구진은 지속적인 주의력 저하와 관련된 특정 신경 신호가 행동상의 오류보다 먼저 나타날 수 있다는 것을 보여줬다.

2021년 eLife에 발표된 연구에서도 비슷한 방향의 결과가 나왔다. 지속적으로 여러 물체를 추적해야 하는 과제를 수행하는 동안 뇌에서 과제와 관련된 정보의 표현이 어떻게 변하는지를 분석했더니, 실수로 목표를 놓친 경우에는 중요한 정보를 처리하는 신경 표현이 약해졌다. 연구진은 신경 데이터를 이용해 행동상의 실수를 실제 반응보다 1초 이상 앞서 예측할 수 있었으며, 최고 약 65% 수준의 예측 성능을 보고했다.

이 숫자 역시 실제 조종사나 의료진의 실수를 65% 확률로 예측할 수 있다는 뜻은 아니다. 연구과제와 실제 생활은 매우 다르기 때문이다. 그러나 중요한 신호는 분명하다. 행동으로 실수가 드러나기 전에 뇌에서는 이미 그 실수와 관련된 변화가 진행되고 있을 수 있다.

AI가 등장하면서 무엇이 달라지는가

뇌파 연구 자체는 새로운 것이 아니다. EEG는 오랫동안 신경과학과 의학에서 사용되어 왔다. 최근 달라지고 있는 것은 방대한 신경 신호 속에서 인간이 쉽게 발견하기 어려운 패턴을 머신러닝과 AI가 분석할 수 있게 되고 있다는 점이다.

EEG 데이터에는 수많은 신호가 동시에 존재한다. 어떤 주파수대가 변하는지, 어느 뇌 영역에서 변화가 나타나는지, 그 변화가 시간에 따라 어떻게 진행되는지를 함께 봐야 한다. 여기에 심박, 눈 움직임, 반응속도 같은 다른 생리·행동 정보까지 결합하면 데이터의 복잡성은 더욱 커진다.

2025년 Scientific Reports에 발표된 연구에서는 신경생리학적 생체신호와 AI를 이용해 장기간에 걸친 인지 피로를 탐지할 가능성을 분석했고, 같은 해 발표된 피로 모니터링 연구 종합분석에서는 EEG뿐 아니라 심전도, 근전도, 움직임 데이터 등을 함께 사용하는 다중 신호 접근법이 실시간 피로 탐지의 중요한 방향으로 제시됐다.

즉 미래의 시스템은 “뇌파 하나를 읽는 기계”라기보다 뇌와 몸에서 발생하는 여러 신호를 AI가 함께 해석하는 시스템이 될 가능성이 높다.

‘지금 피곤하다’에서 ‘곧 실수할 수 있다’로

여기서 반드시 구분해야 할 것이 있다. 현재 인간의 인지 상태를 감지하는 것과 미래의 행동을 예측하는 것은 같은 일이 아니다. 지금까지의 연구는 피로, 인지 작업부하, 주의력 저하 같은 현재 상태를 분류하는 데 훨씬 많은 진전을 이루었다. 특정 사람이 언제 어떤 실수를 할지를 현실 세계에서 높은 정확도로 예측하는 것은 아직 훨씬 어려운 문제다.

그럼에도 신경과학적으로 보면 두 영역 사이에는 중요한 연결고리가 있다. 주의력 저하나 인지 과부하가 행동 오류보다 먼저 뇌에서 나타날 수 있고, AI가 그 패턴을 실시간으로 탐지할 수 있다면 기술의 목표는 자연스럽게 현재 상태를 측정하는 것에서 미래 위험을 예상하는 것으로 이동할 수 있다.

그 발전을 단순화하면 뇌 신호 측정 → 인지 상태 해석 → 상태 변화 추적 → 오류 위험 예측 → 사고 예방이라는 흐름으로 볼 수 있다. 지금 우리는 이 과정의 앞부분에서는 상당한 진전을 보고 있지만, 뒤로 갈수록 연구와 실제 적용 사이의 거리가 커진다.

그렇기 때문에 “AI가 곧 인간의 실수를 모두 예측한다”고 말하는 것은 과장이다. 하지만 “인간의 실수에는 행동으로 드러나기 전에 측정 가능한 신경학적 전조가 존재할 수 있으며, AI가 그것을 찾아내는 연구가 진행되고 있다”고 말하는 것은 현재의 과학적 증거와 부합한다.

뇌가 먼저 알고 있다면 사고를 막을 수 있을까?

이 기술의 가장 직접적인 가치는 안전이다. 조종사가 자신의 집중력이 떨어졌다고 느끼기 전에 AI가 위험 신호를 감지한다면 휴식을 권고하거나 업무 부담을 조절할 수 있다. 관제사나 의료진처럼 오랫동안 높은 집중력을 유지해야 하는 직업에서도 비슷한 원리를 생각할 수 있다.

더 발전한 시스템은 단순한 경고에서 끝나지 않을 수도 있다. 조종사의 인지 작업부하가 급격하게 올라가는 것을 AI가 감지한다면 화면에 표시되는 정보를 줄이거나 중요도가 낮은 알림을 뒤로 미룰 수 있다. 인간의 인지 상태에 맞춰 자동화 수준을 조절하는 것이다. 이 경우 AI는 인간을 대체하는 시스템이라기보다 인간의 뇌 상태에 따라 자신이 얼마나 도와야 하는지를 조절하는 시스템이 된다.

이 개념은 수동형 뇌-컴퓨터 인터페이스(passive BCI)와도 연결된다. 일반적인 BCI가 사람이 뇌 신호를 이용해 컴퓨터에 명령을 보내는 것을 목표로 한다면, 수동형 BCI는 사람이 의도적으로 명령하지 않아도 뇌 상태를 측정해 시스템이 사용자의 인지 상태에 적응하는 것을 목표로 한다. 실제 조종사 작업부하 연구 역시 이러한 수동형 BCI의 가능성과 연결돼 있다.

이것은 우리가 앞서 살펴본 “뇌로 컴퓨터를 조종하는 BCI”와는 다른 방향의 뉴로테크놀로지다. 여기에서는 인간이 기계에 명령을 내리는 것이 핵심이 아니다. 기계가 인간의 뇌 상태를 읽고 그에 맞춰 행동을 바꾸는 것이 핵심이다.

예방 기술과 뇌 감시 사이

하지만 뇌 신호를 읽는 기술이 실제 생활로 들어오기 시작하면 새로운 문제가 생긴다. 조종사의 인지 과부하를 측정해 사고를 막는 것에는 많은 사람이 동의할 수 있다. 하지만 회사가 직원의 뇌파를 지속적으로 측정해 “오늘 집중력이 낮다”거나 “업무 수행능력이 떨어지고 있다”고 평가하기 시작한다면 같은 기술은 전혀 다르게 보인다.

특히 뇌 데이터는 일반적인 건강 데이터와도 성격이 다를 수 있다. 신경기술이 발전할수록 뇌 신호에서 단순한 피로뿐 아니라 더 많은 인지 상태와 개인적 특성을 추론할 가능성이 생기기 때문이다. 따라서 안전을 위해 수집된 뇌 데이터가 고용 평가, 보험, 감시 또는 다른 목적으로 사용되는 것을 어디까지 허용할 것인지가 중요한 문제가 된다.

이 문제는 앞으로 기술이 좋아진 뒤에야 생각해야 할 먼 미래의 문제가 아니다. 신경 신호를 측정하는 기술이 실험실에서 실제 업무환경으로 이동하고 있는 지금부터 데이터 소유권, 동의, 정신적 사생활과 사용 목적을 함께 논의해야 한다.

Insight Polaris View: AI의 다음 도약은 인간을 예측하는 것일지도 모른다

지금까지 우리는 AI의 미래를 이야기할 때 주로 기계 자체를 바라봤다. AI가 얼마나 똑똑해질 것인지, 인간처럼 추론할 수 있을 것인지, 어떤 직업을 대신할 것인지가 중심 질문이었다. 그러나 neuroscience와 AI의 결합은 다른 방향을 보여준다. AI가 인간처럼 생각하는 능력을 발전시키는 동시에, 인간을 읽고 이해하고 예측하는 능력도 발전하고 있다는 것이다.

여기에서 피로와 인지 과부하는 중요한 출발점이다. 인간이 실수하기 전에 뇌의 상태가 변하고, 그 변화 가운데 일부가 측정 가능하며, AI가 그 패턴을 학습할 수 있다면 AI의 역할은 단순한 상태 감지에서 끝나지 않는다. 기술은 Detect → Interpret → Predict → Prevent → Intervene, 즉 감지하고, 해석하고, 예측하고, 예방하고, 필요하면 개입하는 방향으로 발전할 수 있다.

이 변화는 AI와 인간의 관계를 바꿀 수 있다. 지금의 AI는 대부분 인간이 질문하거나 명령한 뒤 움직인다. 하지만 미래의 AI가 인간의 뇌와 생체신호를 지속적으로 읽으면서 “이 사람은 곧 집중력을 잃을 가능성이 높다”거나 “현재 상태에서는 판단 오류의 위험이 커지고 있다”고 먼저 알아낸다면 인간의 명령을 기다릴 이유가 줄어든다. AI가 인간에게 문제가 생기기 전에 먼저 경고하고 환경을 조정하는 새로운 형태의 인간-기계 관계가 만들어질 수 있다.

안전이라는 측면에서는 매우 매력적인 미래다. AI가 내가 실수할 것을 나보다 먼저 안다면, 나는 아마 그 AI가 나에게 알려주기를 원할 것이다. 사고를 막고 생명을 보호할 수 있기 때문이다.

하지만 여기에서 더 큰 질문이 시작된다. 인간의 피로와 인지 과부하를 예측할 수 있는 시스템이 더 많은 신경 신호를 읽게 된다면 어디까지 갈 수 있을까? 인간이 무엇을 하려는지, 무엇을 선택하려는지, 어떤 행동을 준비하고 있는지를 나타내는 신호까지 AI가 파악하기 시작한다면 어떨까?

그래서 Insight Polaris는 AI의 다음 중요한 도약 가운데 하나가 단순히 인간처럼 생각하는 AI를 만드는 데 있지 않을 수 있다고 본다.

AI의 다음 도약은 인간을 인간 자신보다 먼저 예측하는 것일지도 모른다.

그리고 이것이 다음 글에서 다룰 질문이다.

AI는 인간의 생각과 의도를 어디까지 파악하고, 다음 행동까지 예측할 수 있을까?

뇌는 실수하기 전에 신호를 보낼까? AI는 인간의 실수를 예측할 수 있을까