AI가 뇌 지도를 다시 그린다 — 공간 전사체학과 딥러닝의 만남
AI 모델 CellTransformer가 쥐의 뇌에서 1,300개의 영역을 자동으로 발견하면서, 인간이 100년간 손으로 그려온 뇌 지도의 패러다임이 완전히 바뀌고 있다.
100년 전, 독일의 신경학자 코르비니안 브로드만(Korbinian Brodmann)은 현미경 앞에 앉아 죽은 사람의 뇌 조직을 한 조각씩 염색하고 관찰했다. 세포의 모양, 밀도, 크기를 눈으로 비교하면서 경계를 그었다. 그렇게 완성된 52개의 영역 구분은 이후 한 세기 동안 신경과학의 기준 지도가 됐다.
그런데 2025년 10월, 뭔가 근본적으로 달라졌다.
UCSF와 앨런 연구소(Allen Institute)의 연구팀이 쥐의 뇌에서 1,300개의 영역과 하위 영역을 자동으로 구분하는 AI 모델을 발표했다 [1, 2]. 사람이 단 한 번도 직접 표시하지 않은 채로. 브로드만의 52개가 1,300개로 늘어난 셈인데, 이건 단순한 숫자의 증가가 아니다.
뇌를 이해하는 방식 자체가 달라지고 있다는 신호다.
공간 전사체학이란 무엇인가 — 위치를 아는 유전자 분석
공간 전사체학(Spatial Transcriptomics, ST)의 핵심 아이디어는 꽤 직관적이다.
우리 몸의 모든 세포는 동일한 DNA를 가지고 있다. 뇌 세포와 피부 세포가 전혀 다른 일을 하는 이유는, 어떤 유전자가 얼마나 '켜지느냐'의 차이다. 이것을 유전자 발현(gene expression)이라 하고, 발현의 중간 산물이 mRNA다. DNA가 설계도라면 mRNA는 그 설계도를 생산 라인에 내려 보내는 작업 지시서다.
기존의 전사체 분석은 세포를 뭉개서 분석했다. 조직에서 세포를 분리한 뒤 한꺼번에 처리하는 방식이어서, 어떤 유전자가 발현됐는지는 알 수 있어도 어느 위치의 세포에서 발현됐는지는 알 수 없었다 [3, 4]. 도시의 소음 총량을 측정하면서 강남과 강북을 구분하지 못하는 것과 같은 한계였다.
공간 전사체학은 조직을 통째로 보존하면서, 각 위치에서의 유전자 발현을 지도처럼 표시한다 [5, 6]. 조직 절편에 위치 정보가 담긴 바코드 배열을 깔고, 세포 속 mRNA가 그 위치에 결합하도록 만든 후 시퀀싱한다. FISH(형광 제자리 부합법)처럼 빛으로 유전자 발현을 시각화하는 이미징 기반 방식도 활발히 쓰인다 [7].
단일 세포 전사체학(scRNA-seq)이 '어떤 세포가 있는가'를 답한다면, 공간 전사체학은 '그 세포들이 어디에 어떻게 배열돼 있는가'까지 답한다 [8]. 두 방법의 결합은 세포 다양성과 공간적 상호작용을 동시에 들여다보는 창을 열었다 [9].
AI가 뇌 지도를 그리다 — CellTransformer의 등장
CellTransformer라는 딥러닝 모델이 이 기술 위에 올라탔다.
연구팀이 이 모델에 입력한 데이터의 규모부터 압도적이다. 쥐 4마리의 뇌에서 200개 이상의 조직 절편을 채취해 얻은 약 900만 개의 세포에 대한 공간 전사체 정보다 [1, 10]. 세포 하나당 500~1,000개의 유전자 활성 데이터가 포함되어 있으니, 데이터의 차원은 상상을 초월한다.
CellTransformer의 구조는 ChatGPT 같은 대형 언어 모델에서 쓰이는 트랜스포머(transformer) 아키텍처를 기반으로 한다 [2]. 주어진 데이터 안에서 멀리 떨어진 요소들 사이의 관계를 한꺼번에 파악하는 이 구조는, 언어 모델에서는 문장 내 단어 간 관계를 포착하는 데 쓰이고, CellTransformer에서는 뇌 조직 안에서 세포 간의 공간적 관계를 포착하는 데 동원된다. 어떤 세포들이 서로 가까이 붙어 있고, 어떤 유전자 발현 패턴을 공유하는지를 학습하는 것이다.
인코더-디코더 구조 덕분에 모델은 조직의 특징을 계층적으로 학습한다 [10]. 25개의 뇌 영역 구분에서 출발해 해상도를 높여가며 670개를 거쳐 최종적으로 1,300개의 영역과 하위 영역을 만들어냈다 [2, 11]. 기존에 알려진 영역들을 재현하는 데 그치지 않고, 아무도 확인하지 못했던 새로운 하위 영역들까지 드러냈다 [1, 10]. GPU 가속 클러스터링 알고리즘이 수백만 개 단위의 세포 데이터를 현실적인 시간 안에 처리할 수 있게 해줬다.
앨런 연구소의 분자유전학 부서장 보실카 타식(Bosiljka Tasic) 박사는 이 결과를 이렇게 표현했다.
"대륙과 국가만 표시된 지도에서, 주와 도시까지 표시된 지도로 바뀐 것과 같습니다." [10]
연구팀은 이 모델의 아키텍처와 분석 워크플로우가 다른 장기, 나아가 암 조직 매핑에도 적용될 수 있다고 보고 있다 [1, 11].
그림 1. 공간 전사체 데이터와 AI 알고리즘 연동을 통한 뇌 구조 정밀 분석 및 영역 식별 프로세스. 조직 샘플에서 추출한 위치 바코드 기반의 공간 전사체 정보와 고해상도 이미징 데이터를 복합 공간 데이터로 통합한 후, 이를 인코더-디코더 구조의 딥러닝 모델로 처리하여 기존에 알려지지 않은 뇌 영역을 식별하고 정밀 지도를 구축한다. 이 방법론은 전통적인 수동 주석 방식의 주관성을 극복하고 데이터 중심의 객관적인 뇌 영역 경계 정의를 가능하게 하며, 복잡한 생물학적 시스템에 대한 고해상도 매핑을 실현한다. 다만, 데이터 분석의 고차원적 복잡성과 딥러닝 모델의 하이퍼파라미터 민감도에 따른 재현성 확보 등 기술적 제약 사항에 대한 엄격한 관리가 요구된다.
뇌과학 너머로 — 자폐증, 신경 영상, 병리학
공간 전사체학이 연구 현장에서 어떻게 활용되는지를 보여주는 구체적인 사례들이 쌓이고 있다.
- 자폐증과 뇌 발달 연구: SFARI(사이먼스 재단 자폐 연구 이니셔티브)의 지원으로 오메르 바이락타르(Omer Bayraktar) 박사 팀은 자폐 관련 유전자 300개 중 250개의 발현 패턴을 공간 기술로 분석했다 [12]. 유전자 활성이 대뇌 피질에 집중되지 않고 다른 뇌 영역에도 광범위하게 퍼져 있다는 사실이 확인됐다. 향후 10~20년간 자폐증의 분자적 기전을 이해하는 데 중요한 단서가 될 수 있는 결과다.
- 신경 영상과 유전체학의 결합: 2009년 설립된 ENIGMA(신경 영상 유전학 강화 컨소시엄)는 뇌 영상 데이터와 유전체 데이터를 통합하는 대형 프로젝트다 [13]. MRI 이상 소견을 주요 우울 장애나 양극성 장애와 연결하는 연구들이 이 컨소시엄에서 꾸준히 배출되고 있다. 공간 전사체학 데이터가 이 흐름과 합류하면, 특정 뇌 이상 소견 뒤에 어떤 세포 수준의 변화가 있는지를 훨씬 정밀하게 추적할 수 있게 된다 [14].
- 결핵 병리학의 새 단서: 파니 메미(Fani Memi)와 연구팀은 결핵 관련 육아종(granuloma)의 전사체 특성을 공간적으로 매핑했다 [12]. 어떤 세포들이 어디서 어떻게 상호작용하는지를 파악함으로써, 활동성 결핵과 잠재성 결핵 사이의 연속적 변화 양상을 포착할 수 있게 됐다.
이런 연구들이 가능해진 배경에는 신경학 평가 자체의 디지털 전환도 있다. 병력 청취만으로 전체 진단의 70~90%가 이루어진다는 추정이 있는데 [13], 원격 진료 기술과 MRI, 새로운 PET 리간드 같은 첨단 영상 기술이 결합되면서 신경계 질환의 발견과 추적이 점점 정교해지고 있다.
쉽지 않다는 것 — 기술적 한계와 현실적 제약
이 분야가 넘어야 할 산이 아직 꽤 높다.
공간 전사체 데이터는 공간 좌표, 유전자 발현 수치, 조직학적 특성이 한데 얽혀 있어 분석 자체가 매우 복잡하다 [15]. 딥러닝 기반 방법들은 하이퍼파라미터 선택과 랜덤 초기화에 민감하여, 같은 데이터로도 결과가 크게 달라질 수 있다 [16]. 재현성 확보가 해결되지 않은 과제로 남아 있다.
형광 현미경이나 공초점 현미경 같은 이미징 방법들은 속도, 해상도, 비용 사이의 트레이드오프를 항상 안고 있다 [7]. 고해상도로 갈수록 처리 속도가 느려지고 비용이 올라가는 구조다.
가장 현실적인 걸림돌은 데이터 접근성이다. AI 모델을 제대로 훈련시키려면 고품질의 레이블된 데이터가 풍부해야 한다. 각 기관이 데이터를 공유하지 않거나, 데이터 주석 작업에 드는 비용과 시간 때문에 제대로 된 공개 데이터셋이 턱없이 부족한 것이 현실이다 [15].
의료 AI 전반에서 반복되는 해석 가능성(interpretability) 문제가 여기서도 핵심 쟁점이다. 유전체 기술의 비용이 여전히 높아 많은 연구팀이 접근하기 어렵고, 데이터 프라이버시와 보안 문제까지 얽히면 기술의 확산은 생각보다 느리게 진행된다 [15, 16].
Discussion
뇌의 지리적 경계가 더 정확하게 정의될수록, 특정 행동, 기억, 감정, 질환과 연결되는 '주소'가 명확해진다. 약물이 뇌에서 어디에 작용해야 하는지를 더 정확히 알 수 있고, 의도치 않은 구역을 피할 수 있게 된다 [2]. 파킨슨병, 알츠하이머, 자폐증처럼 원인이 불명확한 신경 질환에서, 이 지도는 다음 세대 치료법이 출발하는 기준점이 될 것이다.
가장 먼저 따져봐야 할 질문은 따로 있다.
AI가 정의한 1,300개의 영역이 과연 기능적으로 의미가 있는가?
타식 박사 스스로도 이 점을 인정했다. 신경 돌기(neural projection)나 활성 패턴 같은 데이터를 이 지도에 겹쳐서 검증하는 작업이 아직 필요하다고 했다 [2]. 분자적 경계와 기능적 경계가 항상 일치하지는 않는다. 세포들이 비슷한 유전자 패턴을 보인다고 해서 같은 기능을 수행한다는 보장은 없다. 이 점은 공간 전사체학 AI 연구 전반에서 풀리지 않은 중요한 긴장이다 [16, 17].
공간 분해능과 분자적 깊이 사이의 트레이드오프도 여전히 골치 아프다. 시퀀싱 기반 ST는 넓은 영역을 훑되 여러 세포가 하나의 스팟(spot)으로 합산되고, 이미징 기반 방법은 세포 하나하나를 볼 수 있지만 읽을 수 있는 유전자 수가 제한된다 [16]. 이 두 방식을 어떻게 통합할지가 앞으로 5~10년간 이 분야의 핵심 기술 과제로 남아 있다.
최근 연구들은 공간 전사체학을 위한 파운데이션 모델(foundation model)을 향한 움직임을 보여주고 있다 [18, 19]. 엄청난 양의 데이터로 사전 학습된 후 다양한 다운스트림 작업에 유연하게 적용되는 이 대형 AI 모델들은, Nature Methods의 2025년 연간 리뷰에서도 특별히 주목받았다 [19]. 이 방향이 성숙해지면, 한 번 학습된 모델이 뇌뿐 아니라 심장, 폐, 종양 조직 전반에 범용적으로 쓰일 수 있다.
데이터 공유와 표준화의 문제가 선결 조건이다. Human Cell Atlas(HCA)나 Spatial Temporal Omics Consortium(STOC) 같은 국제 공동 이니셔티브들이 메타데이터와 분석 표준을 만들려고 노력하고 있지만 [20], 각 기관이 쌓아온 데이터 사일로를 허무는 것은 기술 발전보다 느리게 진행된다. 데이터를 공유하면 보상받는 구조가 없으면 아무도 나서지 않는다 — 이것은 기술 문제가 아니라 생태계 문제다.
AI가 1,300개의 영역을 발견했다고 발표했을 때, 한 전문가는 이렇게 물었다. "그게 다 관련이 있을까요? 아닐 수도 있죠. 하지만 그게 무엇인지는 아직 검증해봐야 압니다." [1] 이것이 정직한 과학자의 반응이다. AI가 패턴을 찾아내는 능력은 이미 인간을 앞서지만, 그 패턴이 생물학적으로 의미가 있는지를 판단하는 것은 여전히 인간의 몫이다 [15].
앞으로 10~20년을 내다보면, 이 기술이 가장 극적인 영향을 미칠 분야는 개인 맞춤형 신경학적 치료다. 어떤 뇌 영역이 특정 신경 질환에서 어떤 분자적 변화를 겪는지를 정밀하게 파악하게 되면, 그 영역에만 작용하는 약물을 설계하는 것이 이론적으로 가능해진다. 공간 전사체학과 AI의 결합이 진정한 '뇌 맞춤 의학'의 기초를 놓고 있는 셈이다 [13, 17].
쥐에서 인간으로 넘어가는 도전은 별도의 이야기다. 인간의 뇌는 약 1,700억 개의 세포를 갖고 있고, 구조적으로 훨씬 복잡하다. 충분한 공간 데이터를 확보하는 것 자체가 현재 기술로는 벅찰 수 있다. 아바시-아슬(Abbasi-Asl) 교수는 "인간 데이터가 충분히 공급된다면, 이 도구는 그것을 처리할 수 있다"고 말했다 [1]. 그 데이터를 어떻게, 누가, 어떤 기준으로 만들어갈 것인가 — 그것이 지금 이 분야에 남겨진 진짜 과제다.
그림 2. 공간 전사체학 기술 혁신 및 뇌 지도 작성을 통한 임상적 활용 현황. 인공지능 모델 CellTransformer는 400만 개의 세포 데이터를 분석하여 1,300개의 뇌 소영역을 식별하며, 기존의 주관적 수동 주석 방식에서 탈피하여 객관적 분자 데이터 기반의 고해상도 매핑을 실현한다. 이러한 기술적 진보는 250개 이상의 자폐증 관련 유전자 경로 해독 및 1,000건 이상의 FDA 의료용 알고리즘 승인으로 이어지며 임상 진단 체계를 혁신하고 있다. 다만, 고도의 정밀 의료 구현을 위해서는 고비용 구조 개선, 데이터 프라이버시 보호 및 공공 데이터셋 부족과 같은 핵심적인 실행 장벽의 해소가 선행되어야 한다.
References
[1] Dance, A. (2026, February 9). Fed on Reams of Cell Data, AI Maps New Neighborhoods in the Brain. Quanta Magazine. https://www.quantamagazine.org/fed-on-reams-of-cell-data-ai-maps-new-neighborhoods-in-the-brain-20260209/
[2] Boyle, A. (2025, October 7). Scientists enlist AI to map regions of the brain in unprecedented detail — and that's just the start. GeekWire. https://www.geekwire.com/2025/ai-map-brain-regions/
[3] Caldwell, A. (2025, October). What Is Spatial Transcriptomics? Mayo Clinic Magazine. https://mayomagazine.mayoclinic.org/2025/10/spatial-transcriptomics/
[4] Mackenzie, R. J. (2025, October 7). Scientists used AI to map uncharted areas of the mouse brain. Live Science. https://www.livescience.com/health/neuroscience/scientists-used-ai-to-map-uncharted-areas-of-the-mouse-brain
[5] Park, H.-E., Jo, S. H., Lee, R. H., Macks, C. P., Ku, T., Park, J., Lee, C. W., Hur, J. K., & Sohn, C. H. (2023). Spatial Transcriptomics: Technical Aspects of Recent Developments and Their Applications in Neuroscience and Cancer Research. Advanced Science, 10(22), 2206939. https://doi.org/10.1002/advs.202206939
[6] Abcam. (n.d.). Spatial transcriptomics: Innovations in gene expression analysis. Abcam Knowledge Center. https://www.abcam.com/en-us/knowledge-center/dna-and-rna/spatial-transcriptomics
[7] Wang, Q., Zhu, H., Deng, L., Xu, S., Xie, W., Li, M., Wang, R., Tie, L., Zhan, L., & Yu, G. (2025). Spatial Transcriptomics: Biotechnologies, Computational Tools, and Neuroscience Applications. Small Methods, 9(5), e2401107. https://doi.org/10.1002/smtd.202401107
[8] Piñeiro, A. J., Houser, A. E., & Ji, A. L. (2022). Research Techniques Made Simple: Spatial Transcriptomics. Journal of Investigative Dermatology, 142(4), 993–1001. https://doi.org/10.1016/j.jid.2021.12.014
[9] BMKGene. (n.d.). Single-Cell V.S. Spatial Transcriptomics: A Powerful Duo in Modern Biology. BMKGene Blog. https://www.bmkgene.com/blog/single-cell-v-s-spatial-transcriptomics-a-powerful-duo-in-modern-biology/
[10] Allen Institute. (2025, October 7). Scientists create ChatGPT-like AI model for neuroscience to build detailed mouse brain map. Allen Institute News. https://alleninstitute.org/news/scientists-create-chatgpt-like-ai-model-for-neuroscience-to-build-detailed-mouse-brain-map/
[11] Neuroscience News. (2025, October 7). AI Builds the Most Detailed Map of the Mouse Brain Yet. Neuroscience News. https://neurosciencenews.com/ai-brain-map-neuroscience-29780/
[12] 10x Genomics. (2022, July 27). Your roadmap to spatial: Exploring the power of spatial transcriptomics. 10x Genomics Blog. https://www.10xgenomics.com/blog/your-roadmap-to-spatial-exploring-the-power-of-spatial-transcriptomics
[13] Gutman, B., Shmilovitch, A.-H., Aran, D., & Shelly, S. (2024). Twenty-Five Years of AI in Neurology: The Journey of Predictive Medicine and Biological Breakthroughs. JMIR Neurotechnology, 3, e59556. https://doi.org/10.2196/59556
[14] Adams, M. (n.d.). Spatial Transcriptomics in Neuroscience and Neurological Disorders. News-Medical Life Sciences. https://www.news-medical.net/life-sciences/Spatial-Transcriptomics-in-Neuroscience-and-Neurological-Disorders.aspx
[15] Tchatchoua Ngassam, B., Niu, H., Pang, S., Shydlouskaya, V., & Andrews, T. S. (2026). Applications of AI to single-cell and spatial transcriptomics: current state-of-the-art and challenges. Frontiers in Bioinformatics, 5, 1715821. https://doi.org/10.3389/fbinf.2025.1715821
[16] Saini, A., Gandotra, S., Kumar, A., Dutta, P., & Ghosal, T. (2025). Artificial Intelligence for Spatial Transcriptomics: A Scoping Review of Architectures and Models. NeurIPS 2025 Workshop: IMAGEOMICS. https://neurips.cc/virtual/2025/128750
[17] Ya, D., Zhang, Y., Cui, Q., Jiang, Y., Yang, J., Tian, N., Xiang, W., Lin, X., Li, Q., & Liao, R. (2023). Application of spatial transcriptome technologies to neurological diseases. Frontiers in Cell and Developmental Biology, 11, 1142923. https://doi.org/10.3389/fcell.2023.1142923
[18] Zhang, S. (2023, October 13). Artificial intelligence enables precise integration of spatial transcriptomics data. Springer Nature Research Communities. https://communities.springernature.com/posts/artificial-intelligence-enables-precise-integration-of-spatial-transcriptomics-data
[19] Nature Methods. (2026). Year in review 2025. Nature Methods, 23, 1. https://doi.org/10.1038/s41592-025-02997-5
[20] Chang, S., El Haj, C., Mulder, J., Loo, L., & Prasad, A. A. (2025). Exploring the human brain: spatial transcriptomics challenges and approaches in post-mortem analysis. Brain, awaf452. https://doi.org/10.1093/brain/awaf452
본 글은 공개된 연구를 바탕으로 정보 제공 목적으로 작성되었으며, 전문적인 판단을 대신하거나 의학적 진단이나 치료를 위한 근거로 사용될 수 없습니다.
댓글
댓글 쓰기