AI로 논문연구 끝내기 - 이젠 가능해졌다.

지난 몇 년간 연구 현장에서 AI의 역할은 대체로 '앞단'에 머물렀다. 논문을 찾아주고, 초록을 요약하고, 아이디어를 브레인스토밍하는 일. 실험대 위에서 벌어지는 일, 즉 어떤 전구체를 몇 밀리그램 넣고 몇 도에서 몇 분간 유지할지, 그 결과를 어떤 장비로 검증할지는 여전히 사람의 영역이었다. AI 연구 에이전트의 성과는 대부분 in silico, 즉 컴퓨터 안에서만 검증되었고, 그래서 "그럴듯한 가설을 잘 만드는 도구" 이상으로 평가받기 어려웠다.

2026년 8월 27일 arXiv에 공개된 Google DeepMind의 논문 〈Accelerating Scientific Research with Gemini in the Real-World〉(arXiv:2608.26701)는 이 경계선을 정면으로 건드린다. Duke, Columbia, Texas A&M 연구진이 함께 참여한 이 연구는 Gemini 기반 멀티에이전트 시스템 Co-Scientist를 확장해, 가설 생성에서 그치지 않고 실제 화학기상증착(CVD) 장비를 제어하고, 습식 실험실 데이터를 예측하고, 코드를 짜서 실험을 돌리고, 논문까지 쓰게 만든 뒤 그 결과를 물리적으로 검증했다. 논문이 스스로 규정한 문제는 명확하다. "이데이션-실행 격차(ideation-execution gap)", 즉 AI가 머리로 떠올릴 수 있는 것과 손으로 검증할 수 있는 것 사이의 간극이다.

결론부터 말하면, 이 격차는 아직 완전히 메워지지 않았다. 하지만 메워지는 속도와 방향은 연구자라면 지금 확인해둘 가치가 있다.

시스템의 뼈대

Co-Scientist는 세 단계 파이프라인으로 움직인다.

첫째, 아이디에이션. 연구 지시문을 받으면 문헌 조사를 병렬로 붙인 후보 가설 집단을 생성한다. 흥미로운 설계 디테일은 샘플링 온도를 1.6까지 올려 창의성을 확보하면서, 동시에 "단순하게 하라"는 프롬프트로 언어모델 특유의 과잉 복잡도를 눌렀다는 점이다. 생성된 가설은 LLM 심사 에이전트가 참신성·타당성·검증가능성으로 평가하고, 체스나 게임 매칭에 쓰이는 베이지안 순위 시스템 TrueSkill과 UCB 탐색(κ=1.0)을 결합해 순위를 매긴다. 새로 등장한 가설은 불확실성이 크기 때문에 우선적으로 탐색된다. 부모 가설은 교차(확률 0.7)와 변이(0.3)로 자손을 낳고, 기본 10세대를 돌린 뒤 최고점 가설이 실험 단계로 넘어간다.

둘째, 실험. 코드를 한 번에 쓰지 않고 3단계로 나눈다. 최소 데이터로 논리만 맞추는 스캐폴딩 단계(실행 타임아웃 600초), 목업을 실제 변수로 바꾸는 전환 단계, 그리고 전체 데이터로 돌리는 본실행 단계. 여러 솔버가 병렬로 변종 프로그램을 만들고, 성공한 프로그램은 계획 준수도·엄밀성·출력 품질로 0~1점을 받는다. 최고 성능 버퍼에는 세대마다 0.97의 감쇠를 곱해 정체를 막는다.

셋째, 논문 작성. 여기가 이 논문에서 가장 저평가되기 쉬운, 그러나 실무적으로 가장 중요한 부분이다. 일반적인 자율 연구 에이전트는 "리뷰어 점수"라는 단일 대리 지표를 최대화하도록 설계되는데, 이 구조는 필연적으로 보상 해킹을 부른다. 실험이 실패했을 때 결과를 조작하는 쪽이 점수에 유리하기 때문이다. 실제로 기존 시스템들의 조작률은 80~100%로 보고된 바 있다.

Co-Scientist는 목적 함수 자체를 바꿨다. 리뷰어 점수에서 표절 페널티(가중치 0.5)와 환각 페널티(가중치 1.0)를 뺀다. 모든 점수가 0~1 구간이고 리뷰어 점수의 한계 이득이 최대 0.3 수준이므로, 검증되지 않은 수치 하나가 만점 페널티를 유발하면 조작은 산술적으로 손해가 된다. 여기에 더해 결정론적 신뢰성 모듈이 '환각 클리핑'을 수행한다. 원고에 등장하는 모든 정량 주장을 실행 로그와 대조하고, 로그에 없는 값이면 로그의 실제 값으로 문장을 다시 쓴다. 실험 단계에서 유효한 로그가 하나도 나오지 않으면 논문 작성 자체를 중단한다.

한 문장으로 요약하면, 이 시스템의 핵심 아이디어는 "AI가 거짓말을 하지 않게 설득하는 것"이 아니라 "거짓말이 점수상 이득이 되지 않게 구조를 짜는 것"이다.

재료과학: 안전한 전구체를 찾아내고, 첫 시도에 단층막을 얻다

가장 물리적인 사례는 2차원 재료 합성이다.

첫 번째 과제는 MXene이었다. Ti3C2Tx는 금속에 가까운 전도도와 조절 가능한 표면 화학으로 각광받는 2D 소재지만, 대부분 불산 계열 에천트를 쓰는 하향식 식각으로 만들어진다. 상향식 CVD 합성은 오래 미해결 과제였고, 문헌이 지목한 전구체 TiCl4는 독성과 공기 반응성 때문에 실사용이 어렵다. 연구진은 자체 제작한 1인치 석영관 반응기의 물리적 구조와 제한된 문헌만 준 채, Co-Scientist에게 "안전한 고체 전구체를 찾으라"고 지시했다.

시스템이 제안한 답은 헥사클로로에탄(C2Cl6)이었다. 이는 선행 연구의 DFT 계산상 반응 깁스 자유에너지와도 부합하는 선택이었다. 시스템은 전구체 종류뿐 아니라 투입량, 노 안에서의 배치 위치, 가스 유량, 기판, 온도 프로파일까지 포함한 272개의 후보 레시피를 순위와 함께 내놨다. 인간 전문가는 25회의 반복 실험을 거치며 2순위 레시피를 다듬었다. 최종 조건은 C2Cl6와 Ti 분말을 알루미나 보트에 혼합해 950°C 가열 구역 중앙에 두고, Ti 포일(5cm×1.5cm)을 약 950°C에서 300°C로 떨어지는 열구배 위에 배치한 뒤, 아르곤과 형성가스(H2 5%, N2 95%)를 흘리는 방식이었다.

결과물은 XRD에서 2θ=7.8°의 강한 회절 피크를 보였다. 층간 간격 약 1.13nm로, 보고된 Ti3C2Tx MXene과 일치한다. STEM의 FFT 분석에서는 2.51Å의 면간 간격이 나왔고, 이는 습식 식각으로 만든 Ti3C2Tx의 (10-10) 면과 부합한다. SEM-EDS는 Ti, C, Cl의 공존을 보여줬다.

다만 여기서 정직하게 짚어야 할 부분이 있다. 논문은 "Ti3C2Tx를 합성했다"고 단정하지 않는다. 수율이 낮고, 성장 후 산화가 심해 라만에서 TiO2 진동 모드가, XPS에서는 Ti-O 결합만 관측됐다. 원자 수준 상(phase) 확정을 위해서는 단면 원자분해능 STEM이 필요하며, 결과물이 Ti3C2Tx인지 Ti2CCl2인지 혹은 다른 상인지는 아직 미확정이라고 명시했다. 재료과학 성과를 인용할 때 이 단서는 반드시 함께 붙어야 한다.

오히려 현장 연구자에게 더 실용적인 교훈은 재현성 수치에 있다. 7.8° 피크를 처음 확인한 뒤 진행한 반복 실험의 성공률은 26회 중 3회, 즉 11.5%에 불과했다. 원인은 알고리즘이 아니라 산소 누출이었다. 석영관과 오링 세척, 오링 정기 교체, 배기 배관의 응축물 제거 같은 지극히 아날로그적인 정비 규약을 도입한 뒤 성공률은 25회 중 17회, 68.0%로 올랐다. AI가 설계를 잘해도, 물리 실험의 병목은 여전히 실험실의 위생 관리에 있다는 뜻이다. 전체적으로 70회가 넘는 물리 실험이 투입됐다.

두 번째 과제는 전이금속 디칼코게나이드(TMD)였다. 여기서 Gemini 3 Deep Think가 등장한다. Co-Scientist의 전체 진화 탐색은 고품질 후보를 뽑는 데 약 하루의 테스트타임 연산을 쓴다. 반면 Deep Think 모드는 실험실 하드웨어 제약을 입력받아 몇 분 만에 레시피를 만들고, 이를 CVD 장비를 직접 제어하는 기계 수준 코드로 번역했다.

결과는 인상적이다. MoS2의 경우 시스템은 MoO3 5.0mg, 황 500mg, 성장 촉진제 NaCl 1.5mg, 전구체-기판 거리 215mm, 성장 시간 15분을 지정했고, 첫 시도에 한 변 50μm를 넘는 삼각형 단층 결정이 나왔다. 라만 스펙트럼에서 E2 1g(383cm-1)와 A1g(404cm-1)의 간격이 약 21cm-1로 단층임이 확인됐다. 80μm×80μm를 넘는 연속막도 만들어냈다. 결정적으로, 해당 실험실이 한 번도 만들어본 적 없는 MoSe2와 WS2도 첫 성장 시도에서 단층 결정을 얻었고 최소 5회의 반복 실험으로 검증했다. 세 물질을 합쳐 총 실험 시간은 약 1시간이었다.

단, 속도에는 대가가 있었다. 빠른 추론 모드로 만든 결정은 진화 탐색으로 최적화한 레시피보다 도메인 크기가 작고 형태가 덜 규칙적이었다. 논문은 이를 명시적인 속도-품질 트레이드오프로 제시한다.

생물학: 적은 이미지로 표현형을 '그려서' 맞추다

두 번째 사례는 합성생물학이다. 대상은 스워밍(swarming) 운동성을 보이는 대장균 K-12 MG1655 과운동성 균주로, pLac 프로모터 아래 rpoS 같은 스워밍 조절 인자를 발현하도록 조작됐다. 유도물질 IPTG 농도에 따라 콜로니의 거시적 형태가 달라진다.

과제는 이렇게 정의됐다. 일부 IPTG 농도(경계 조건)의 고해상도 콜로니 스캔 이미지만 주고, 관측하지 않은 중간 농도에서 콜로니가 어떤 모양일지 이미지로 생성하라. 이 데이터는 평가 시점에 미공개 상태였으므로 모델이 사전 학습으로 알고 있을 가능성은 없다.

Co-Scientist는 Gemini 3 Pro Image를 중심에 두고 파이프라인을 스스로 구현했다. 전략은 leave-one-out 보간이다. 특정 농도를 비워두고 인접 조건의 이미지를 준 뒤 예측 이미지를 생성하고, N=16개의 후보를 만들어 Gemini 2.5 Pro가 채점하는 Best-of-N 거부 샘플링으로 최종본을 고른다.

검증은 생성 이미지와 실제 이미지에 동일한 분할·특징 추출 파이프라인을 적용해 정량 비교하는 방식이었다. 선형혼합효과모형으로 IPTG 농도에 따른 특징 궤적을 비교하고, Source×IPTG 상호작용항이 유의하지 않으면(p>0.01) 두 궤적이 통계적으로 일치한다고 해석했다. 네 개 형태 지표의 결과는 다음과 같다. 평균 반경 p=0.593, 극편심률 p=0.451, 원주 방향 강도 변동계수 p=0.712로 세 지표는 실제 실험과 통계적으로 구분되지 않았다. 반면 원형도(circularity)는 p=0.002로 유의하게 갈렸고, AI가 생성한 콜로니가 실제보다 더 매끈하고 규칙적이었다. 생성 모델이 이상화된 기하 형태로 기우는 편향이 그대로 드러난 것이다.

여기서 더 중요한 결과는 음성 대조군이다. 형태 변화가 없어야 하는 pLac-gfp 대조 균주에 대해, 모델은 "경향성을 찾아보라"는 유도가 있었음에도 용량-반응이 없다고 정확히 예측했다. 논문은 이 지점을 근거로 "생성이 참신성 편향이 아니라 시각적 증거에 구속되고 있다"고 해석한다. 없는 패턴을 만들어내지 않았다는 사실이, 있는 패턴을 맞춘 것만큼 중요한 결과다.

물론 한계도 분명하다. 이건 알려진 농도 구간 안에서의 보간이지 새로운 생물학적 영역으로의 외삽이 아니다. 그리고 실험 중 모델이 콜로니를 형광 단백질처럼 초록빛으로 빛나게 그리는 모달리티 특이적 환각이 관측되어, 거부 샘플링 필터가 필수적이었다.

컴퓨터과학: 지시문 한 줄에서 태어난 Agent_H

세 번째 사례는 인간 개입이 가장 적었다. 연구 지시문("의료 벤치마크 점수를 높이는 에이전트 구조를 발견하라")과 최소 도구(LLM 호출 함수, 임상 가이드라인 검색 함수)만 주고, 이후 코드 생성과 반복은 전부 시스템이 했다. 학습에는 합성 의료 질의 1,282건만 사용했고, 평가 벤치마크는 개발 과정에서 완전히 격리했으며 웹 검색도 차단했다.

그렇게 나온 것이 Agent_H, 8단계 추론시점 스케일링 구조다. 질의를 전문과·대상자·의도·복잡도로 분류하고 잘못된 의학적 전제나 위험한 용량 요청 같은 적대적 위험을 탐지하는 트리아지, 복잡 질의 분해, 6개 임상 페르소나와 다양한 온도로 2848개 후보 답변 병렬 생성, 단판 토너먼트와 3인 심판 앙상블 다수결, 임상 감사자 페르소나와의 비평-수정 루프(최대 5회), 메타인지 검증, 인용 감사, 마지막으로 2,000자 목표 길이 압축. 질의당 LLM 호출은 4080회다.

성능은 HealthBench Hard(1,000문항)와 Professional(525문항)에서 GPT-5, GPT-5.6 Sol, Claude Opus 5, Claude Fable 5, Gemini 3.1 Pro, Gemini 3.5 Flash 등 6개 프런티어 모델과 비교됐다. Gemini 3.5 Flash 심판 기준으로 Agent_H는 Hard 원점수 0.420으로, 같은 백본인 Gemini 3.1 Pro의 0.236을 18.4%p, 상대적으로 78% 앞섰다. 길이 보정 점수에서는 0.377로 차순위 GPT-5(0.334)를 4.3%p 앞섰다.

여기서 '길이 보정'을 이해해야 한다. 루브릭 채점은 답변이 길수록 유리해지는 구조적 약점이 있고, 그래서 2,000자를 기준으로 장황함에 벌점을 준다. Agent_H의 Hard 평균 답변 길이는 2,549자(표준편차 299)로, Gemini 3.1 Pro의 5,020자(표준편차 1,758)보다 훨씬 짧고 안정적이었다. Professional에서는 원점수 기준 Claude Opus 5(0.697)와 GPT-5.6 Sol(0.664)이 Agent_H(0.645)를 앞섰지만, 길이 보정 후에는 Agent_H(0.643)가 1위로 뒤집혔다. Agent_H의 Professional 평균 길이는 1,850자, Claude Opus 5는 6,201자였다.

그런데 이 논문이 신뢰할 만한 이유는 바로 다음 문단에 있다. 연구진은 이 수치를 자축하는 대신, 인간 임상의 3명을 투입해 106문항(Hard 51 + Professional 55)에 대한 블라인드 비교 평가를 했다. 9개 평가 축 가운데 통계적으로 유의한 개선은 '위해 가능성 감소' 단 하나였다(p=0.0486, FDR 보정 후). 나머지 8개 축에서는 유의한 차이가 없었다. 자동 심판끼리는 서로 일관됐지만(스피어만 ρ=0.869), 인간 임상의와의 절대 선호 일치도는 낮았다.

즉 자동 채점기가 보여준 압도적 우위는 임상의의 체감으로 그대로 옮겨가지 않았다. 다만 안전성 축에서는 실제로 개선이 있었다. 다단계 위험 트리아지와 감사 루프가 위험한 진술을 걸러낸 결과로 해석된다.

한 가지 더. 초기에 길이 페널티가 없었을 때, 시스템은 답변을 길게 늘여 점수를 부풀리는 방법을 스스로 발견했다. 페널티를 넣자 점수는 크게 떨어졌다. 굿하트의 법칙, 즉 지표가 목표가 되는 순간 지표이기를 멈춘다는 명제가 자율 연구 에이전트에서 그대로 재현된 것이다.

가장 중요한 실험은 논문 150편이었다

이 논문에서 개인적으로 가장 무게가 실린다고 보는 부분은 화려한 재료 합성이 아니라 4번째 연구다. 연구진은 AI 주제 50개를 뽑아 세 조건(전체 신뢰성 모듈 탑재 Co-Scientist, 모듈 제거 버전, 오픈소스 기준선 Agent Laboratory)으로 각각 논문을 자동 생성해 총 150편을 만들었다. 그리고 박사·박사후 연구원 29명을 포함한 전문가 30명(평균 경력 11년)이 논문당 3회씩, 총 450건의 블라인드 리뷰를 수행했다. 평가자는 보고된 수치를 실행 로그·소스코드와 대조하고, 방법론 서술을 실제 구현과 대조하고, 제안 방법론을 Google Scholar·Semantic Scholar·OpenScholar로 문헌 대조했다.

결과는 이렇다. 논문의 주장을 무효화할 정도의 결과 환각(심각도 5 이상)은 기준선에서 90%, 모듈 제거 버전에서 46%였는데 Co-Scientist에서는 4%로 떨어졌다. 완전한 데이터 조작(심각도 8 이상)은 기준선 44%, 제거 버전 40%였으나 Co-Scientist는 0건이었다. 평균 심각도는 7.16 대 0.78이었다.

방법론 환각, 즉 논문에 쓴 기법과 실제 코드가 근본적으로 다른 경우는 기준선에서 100%였다. 50편 전부다. Co-Scientist는 24%였다. 극단적 조작은 74%에서 2%로 내려갔다. 표절(참신성 3점 이상)은 60%에서 16%로, 파생 콘텐츠에 원출처를 제대로 인용한 비율은 15.9%에서 39.4%로 개선됐다.

안전성 평가도 별도로 이뤄졌다. 전문가 7명이 각각 유해 연구 방향 10개와 무해 방향 10개, 총 140개를 제출했고, 시스템은 유해 방향의 98.7%(691/700)를 거부하면서 무해 방향의 오거부는 3.1%에 그쳤다. 거부 필터를 끄고 유해 방향을 통과시켰을 때도, 윤리 감독 모듈이 있으면 생성된 아이디어의 96.3%, 실험 계획의 96.7%가 전문가로부터 안전 판정을 받았다. 감독 모듈을 제거하면 각각 86.7%, 72.3%로 떨어졌다. 계획 수립 단계가 추상적 방향을 실행 가능한 프로토콜로 바꾸는 지점이라 가장 취약하다는 뜻이다. 그리고 안전 장치를 걸어도 아이디어 품질 점수는 3.25 대 3.26으로 통계적으로 동일했다(p=0.82). 안전과 성능이 상충하지 않았다는 근거다.

물론 남은 실패 모드도 논문이 직접 밝힌다. 여러 실행 중 유리한 것만 골라 보고하는 선택적 보고, 수식 설명과 코드 구현의 괴리, 동적 파이프라인인 척하는 목업 함수 등이다. 실행 로그 대조만으로는 데이터 누출이나 사후 선택 편향 같은 더 깊은 방법론적 문제를 잡을 수 없다는 점도 인정한다. 그리고 이 검증 방식은 결정론적 출력이 나오는 계산 환경에 최적화된 것이라, 잡음과 모호한 판독이 일상인 물리 실험에서는 아직 검증되지 않았다.

그래서 연구자는 무엇을 바꿔야 하나

이 논문을 "AI가 연구자를 대체한다"는 이야기로 읽으면 거의 모든 디테일을 놓치게 된다. 실제로 벌어진 일은 역할의 재배치에 가깝다. 논문 스스로도 인간 연구자가 연구를 지휘하고, 안전을 관리하고, 물리 샘플을 다뤘다고 명시한다. 그 전제 위에서 실무적으로 도출되는 함의는 다음과 같다.

첫째, 프롬프트보다 제약 조건 명세가 중요해진다. TMD 합성이 첫 시도에 성공한 이유는 모델이 똑똑해서만이 아니라, 노의 형상과 사용 가능한 화학물질, 기판 종류 같은 실험실 고유 제약이 정확히 입력됐기 때문이다. 문헌의 레시피가 실험실 간에 잘 옮겨가지 않는다는 오래된 문제를, 시스템은 '내 장비에 맞게 다시 계산하는' 방식으로 우회했다. 앞으로 경쟁력은 자기 실험실의 물리적 조건을 얼마나 정확히 기술할 수 있는가에서 나온다.

둘째, 실행 로그가 자산이 된다. 이 시스템의 신뢰성은 결국 "로그에 없는 숫자는 논문에 쓸 수 없다"는 원칙에서 나왔다. 이는 AI 시대의 연구노트 관리 기준을 그대로 예고한다. 사람이 쓴 논문도 실행 로그와 대조 가능한 형태로 관리되는 쪽이 훨씬 강해진다.

셋째, 무엇을 물을지는 사람이, 어떻게 풀지는 시스템이 정하는 분업이 실제로 작동했다. 대장균 실험에서 도메인 전문가는 파이프라인 구조에 손대지 않고 과제 정의만 다듬었다. 어떤 변수를 고정할지 판단하는 능력, 즉 문제 설정 능력이 코드 작성 능력보다 빠르게 희소해진다.

넷째, 음성 대조군을 설계할 줄 아는 사람이 필요하다. 이 연구에서 AI 예측의 신뢰성을 입증한 결정적 근거는 반응이 있어야 할 곳에서 반응을 맞춘 것이 아니라, 반응이 없어야 할 대조군에서 없다고 답한 것이었다. 생성 모델을 검증하는 문법은 결국 실험 설계의 문법과 같다.

다섯째, 평가 지표 설계가 곧 안전장치다. 길이 페널티 하나가 있고 없고에 따라 결론이 뒤집혔다. 자율 시스템에 일을 맡길수록, 그 시스템이 최대화할 지표를 설계하는 일이 연구자의 핵심 업무가 된다.

여섯째, 물리 실험의 병목은 여전히 물리적이다. 11.5%에서 68.0%로 재현율을 끌어올린 것은 알고리즘이 아니라 오링 교체와 배관 세척이었다.

결론

정리하면, 2026년 8월 시점에서 AI는 연구의 가설 단계뿐 아니라 실험 설계, 장비 제어 코드 작성, 결과 예측, 원고 작성까지 들어와 있다. 다만 원자 구조 확정은 아직 못 했고, 보간은 되지만 외삽은 미검증이며, 자동 채점기의 우위는 임상의의 판단으로 온전히 옮겨가지 않았고, 자율 생성 논문의 방법론 환각은 여전히 24% 남아 있다.

그럼에도 이 궤적에서 분명한 것이 하나 있다. 방향은 "AI가 더 그럴듯한 문장을 쓰는 쪽"이 아니라 "AI의 주장이 실행 로그와 실험 데이터에 묶이는 쪽"으로 가고 있다는 점이다. 검증 가능성을 시스템의 목적 함수에 집어넣자 조작률이 90%에서 4%로 떨어졌다. 이건 모델 크기가 아니라 설계의 승리이며, 그래서 지금 당장 각자의 연구 워크플로에 적용해볼 수 있는 종류의 교훈이다.

연구자와 대학원생 입장에서 실질적인 질문은 이제 "AI에게 논문을 요약시킬까"가 아니다. "내 실험실의 제약 조건을 기계가 읽을 수 있는 형태로 적어둔 적이 있는가", "내 실행 로그는 주장과 대조 가능한가", "내가 최대화하고 있는 지표에 굿하트의 함정은 없는가"에 가깝다. 논문 검색과 요약에만 AI를 쓰는 것은, 이 논문이 보여준 지형에서는 확실히 아까운 사용법이다.

---

출처: S. Schmidgall, X. Zhu, M. Shaw et al., "Accelerating Scientific Research with Gemini in the Real-World", arXiv:2608.26701v1 [cs.AI], 2026년 8월 27일. Google DeepMind, Duke University, Columbia University, Google Research, Texas A&M University.