AI가 전자 계산의 병목을 바꿨다 — 8만2,500개 전자를 GPU 한 대로 계산한 방법

AI가 과학을 바꾼다는 발표는 흔하다. 그러나 상당수는 기존 계산 결과를 빠르게 흉내 내거나, 제한된 조건에서 정답을 예측하는 데 머문다. 최근 칼텍과 취리히연방공대 연구진이 공개한 방법은 결이 다르다. 물리 계산의 뼈대를 없애지 않고, 시간이 가장 많이 걸리는 단계만 신경망으로 교체했다.

핵심은 ‘무엇을 AI에 맡길 것인가’였다.

전자가 늘면 계산량은 세제곱으로 불어난다

새로운 물질의 전기적·화학적 성질을 알려면 원자 안 전자의 분포부터 계산해야 한다. 이때 널리 쓰이는 방법이 콘–샴 밀도범함수론이다. 배터리 재료, 반도체, 촉매, 금속 결함 연구의 기초 계산에 이용된다.

정확도는 높지만 대가가 크다. 전자가 늘어날수록 궤도 계산량이 대체로 세제곱으로 증가한다. 대상이 두 배 커지면 계산 부담은 단순히 두 배가 아니라 약 여덟 배로 늘 수 있다는 뜻이다. 작은 분자에서는 견딜 만하지만, 복잡한 결정 결함이나 생체분자로 확대하면 슈퍼컴퓨터조차 부담이 커진다.

기존의 AI 연구는 주로 최종 전자 상태를 한 번에 맞히거나, 계산하기 어려운 에너지 함수를 학습하려 했다. 그러나 학습 범위를 벗어난 큰 물질에서는 오차가 커지거나 계산이 안정적으로 수렴하지 않는 문제가 있었다.

물리법칙은 두고 무거운 단계만 바꿨다

연구진은 전체 계산을 AI에 넘기지 않았다. 전자가 만든 퍼텐셜을 입력받아 전자 밀도를 구하는 ‘콘–샴 사상’만 푸리에 신경 연산자로 학습시켰다. 전자 밀도를 다시 퍼텐셜 계산에 넣고, 결과가 서로 일치할 때까지 반복하는 자기일관성 계산 구조는 유지했다.

AI가 처음부터 정답을 단정하는 방식이 아니다. 물리 계산의 순환 안에서 예측하고, 다음 계산에서 어긋난 값을 다시 조정한다. 연구의 의미는 AI가 물리학을 대신했다는 데 있지 않다. 물리학이 보장하는 검산 구조 안에 AI를 배치했다는 데 있다.

연구진은 분자와 고체 8,504개를 함께 학습한 단일 모델로 유기분자, 절연체, 금속을 시험했다. 계산량은 기존의 세제곱 증가에서 격자 수에 비례하는 준선형 수준으로 낮아졌다고 보고했다. 가장 큰 시험에서는 마그네슘 전위 결함에 포함된 원자가전자 8만2,500개의 밀도를 고성능 GPU 한 대에서 수렴시켰다.

‘슈퍼컴퓨터가 필요 없어졌다’는 뜻은 아니다

수치는 인상적이지만 범위를 분명히 해야 한다. 연구진이 이번 논문에서 집중적으로 학습한 대상은 전자 밀도다. 모든 양자화학 계산과 모든 물질 연구를 GPU 한 대로 처리했다는 의미가 아니다. 모델 학습에는 별도의 계산 자원이 들며, 새로운 원소 조합과 극단적 조건에서도 같은 정확도가 유지되는지는 더 검증해야 한다.

논문은 2026년 8월 공개된 사전논문으로, 동료평가가 끝난 확정 연구도 아니다. 따라서 “슈퍼컴퓨터를 대체했다”기보다 “대규모 전자구조 계산의 주요 병목을 다른 방식으로 풀 가능성을 보였다”고 표현하는 편이 정확하다.

AI 과학의 승부처는 예측보다 배치다

이 연구가 던지는 질문은 단순하다. 기존 이론 전체를 AI로 갈아엎어야 혁신인가. 오히려 반대일 수 있다. 이미 검증된 법칙과 반복 구조는 남겨두고, 계산비용이 폭증하는 한 단계만 학습모델로 바꾸면 정확성과 속도를 함께 지킬 수 있다.

이 방식이 독립 검증을 통과하고 다양한 물질로 확대된다면, 지금은 비용 때문에 생략하는 대규모 결함·계면 계산을 더 자주 시도할 수 있다. 배터리와 촉매, 반도체 재료 탐색의 후보를 넓힐 가능성도 있다. 다만 그 변화는 AI가 과학자를 대신해서가 아니라, 과학자가 계산의 병목을 더 정확히 골라냈기 때문에 시작된다.