말하지 않아도 ‘이게 아닌데’를 알아챈다 — 뇌파를 읽고 행동을 고치는 AI

로봇에게 물병을 가져오라고 했는데 주스병을 집었다. 사람이 “그게 아니야”라고 말하거나 손으로 다른 병을 가리키면, 로봇은 자신이 잘못 집었다는 것을 알아차릴 수 있다. 하지만 말로 의사를 표하기 어렵거나 몸을 움직일 수 없는 사람이라면 어떻게 해야 할까.

사람이 아무 말도 하지 않았는데도 잘못을 알아채고 행동을 고치는 인공지능이 개발됐다. KAIST 뇌인지과학과 이상완 석좌교수 연구팀은 마이크로소프트연구소 아시아와 함께 사람의 뇌파에서 ‘예상과 실제가 어긋났다’는 신호를 찾아 AI에 전달하는 기술을 만들었다. 연구진은 이를 ‘신경 가치 정렬’이라고 이름 붙였다.

연구 결과는 2026년 8월 24일 국제학술지 《IEEE Transactions on Cybernetics》 온라인판에 먼저 공개됐다. 그러나 국내에서 알려진 것은 KAIST가 연구 성과를 공식 발표한 9월 10일부터다. 논문이 나온 지 보름가량 지난 뒤에야 언론 보도가 이어진 까닭이다.

사람은 말보다 먼저 잘못을 알아챈다

눈앞의 결과가 마음에 들지 않으면, 말이나 행동보다 뇌가 먼저 반응한다. 길 안내 AI가 엉뚱한 길을 고르거나 로봇이 다른 물건을 집는 순간, ‘이게 아닌데’라는 느낌이 든다.

이때 뇌에서는 예상한 결과와 실제 결과의 차이를 나타내는 신호가 생긴다. 연구진은 머리에 뇌파 측정장치를 씌우고 이 반응을 읽었다. 사람이 말하거나 단추를 누르지 않아도 AI가 자신의 선택을 다시 살펴보도록 한 것이다.

그렇다고 사람의 생각을 문장처럼 읽는 것은 아니다. “물 대신 주스를 가져왔구나”라는 구체적인 생각이 뇌파에 글자로 나타나는 것도 아니다. 연구진이 알아낸 것은 사람이 결과를 보고 잘못되었다고 느꼈는지, 그렇다면 무엇이 어긋났는지를 보여주는 일정한 반응이다.

무엇을 할지와 어떻게 할지를 나눠 본다

AI가 저지르는 잘못은 크게 두 가지로 나눌 수 있다. 먼저 목표를 잘못 알아들을 수 있다. 물을 가져오라는 부탁을 주스를 가져오라는 뜻으로 받아들였다면 처음부터 할 일을 잘못 고른 것이다.

목표는 제대로 알았지만 행동이 어긋날 수도 있다. 물병을 고르고도 엉뚱한 방향으로 움직이거나, 병을 집다가 떨어뜨리는 경우다. 할 일은 맞게 골랐지만 실행이 잘못된 것이다.

연구진은 이 두 경우에 나타나는 뇌파가 서로 다르다는 점을 이용했다. 목표가 빗나갔을 때 생기는 ‘보상 예측 오류’와 행동 과정이 예상과 달라졌을 때 생기는 ‘상태 예측 오류’를 가려냈다. AI는 어느 쪽에서 문제가 생겼는지 판단한 뒤 목표를 다시 정하거나 행동 방법을 바꿨다.

이는 사람이 옆에서 일일이 “목표가 틀렸다”, “방향을 바꿔라”고 지시하는 것과 다르다. 사람의 반응을 살핀 AI가 잘못의 원인을 스스로 짐작하고 다음 행동을 고친다.

말로 의사를 표현하기 어려운 사람에게 더 쓸모가 크다

이 기술은 사람과 함께 움직이는 로봇에 먼저 쓰일 수 있다. 가정용 돌봄로봇이나 재활기기, 작업 보조로봇이 대표적이다. 사용자가 로봇의 행동을 지켜보기만 해도 잘못을 알릴 수 있기 때문이다.

몸을 움직이기 어렵거나 말로 의사를 표현하기 힘든 환자에게는 더욱 뜻깊다. 기존 장치에서는 주로 눈동자를 움직이거나 손가락으로 단추를 눌러 뜻을 전달했다. 뇌파로 잘못을 알릴 수 있다면 사람과 기계가 뜻을 주고받는 길이 하나 더 생긴다.

자율주행차에도 응용할 수 있다. 자동차가 위험한 길을 선택하거나 운전자가 바라지 않는 방향으로 움직일 때, 뇌파 반응을 읽어 경로나 움직임을 바로잡는 방식이다. 사람이 말하거나 조작하기 전에 AI가 이상을 알아챌 가능성이 생긴다.

다만 이런 활용은 아직 가능성을 보여준 단계다. 실제 도로와 병원, 가정은 실험실보다 훨씬 복잡하다. 사람마다 다른 뇌파를 정확히 읽고, 움직이면서도 안정적으로 측정할 수 있어야 한다.

마음을 읽는 기술은 아니다

이 기술을 ‘속마음을 읽는 AI’라고 부르면 연구성과를 지나치게 부풀리게 된다. 사람의 기억이나 생각을 문장으로 해독한 것이 아니라, 결과가 예상과 다를 때 나타나는 뇌의 반응을 가려낸 것이다.

뇌파 측정장비를 착용해야 하고 실험환경을 벗어나도 같은 성능을 낼 수 있는지도 더 확인해야 한다. 당장 가정용 로봇이나 자동차에 넣을 수 있는 완제품은 아니다.

그럼에도 뜻은 작지 않다. 지금까지 사람은 AI가 잘못할 때마다 말과 손으로 바로잡아야 했다. 이제는 사람이 불편함을 느끼는 순간을 AI가 먼저 알아채고 행동을 고칠 가능성이 생겼다. 사람이 기계에 맞춰 의사를 전하는 대신, 기계가 사람의 반응을 배우기 시작한 것이다.