메타, 챗봇 그대로 쓴 AI와 수학자가 쓴 논문 여섯 편 공개

왜 지금 이 주제인가

메타가 10월 2일 자사 AI 연구 블로그에 수학자들과 자사 모델 Muse Spark(메타가 만든 범용 AI 모델)가 함께 쓴 논문 여섯 편을 공개했습니다. 수학 전용으로 따로 설계한 시스템이 아니라, 누구나 쓸 수 있는 meta.ai 채팅 인터페이스로 미해결 문제에 접근했다는 점이 특징입니다. AI 기업들이 저마다 수학 경시대회 성적을 내세우는 가운데, 메타는 대회용 문제가 아니라 실제 연구 현장에서 나온 질문을 다뤘다는 점도 다릅니다. AI가 연구 보조로 쓰인 사례를 회사가 직접, 어느 부분을 누가 썼는지와 검증 과정까지 함께 공개한 흔치 않은 기록이어서 살펴볼 만합니다.

핵심 내용

메타는 Muse Spark 1.1과 1.2를 Thinking Mode(모델이 답을 내놓기 전에 단계적으로 추론을 거치는 모드)로 활용해 확률론, 미분방정식, 군론, 최적화, 산술 물리학, 비결합 대수학 여섯 분야의 연구 문제를 다룬 논문을 냈습니다. 이 중 다섯 편이 해당 분야에서 오랫동안 열려 있던 문제에 답을 내놓았다고 밝혔습니다.

다룬 문제는 다음과 같습니다.

• 가우시안 타원체 적합의 엄밀한 임계값 규명
• 질량 임계 쌍조화 비선형 슈뢰딩거 방정식에서 2015년부터 열려 있던 유한 시간 폭발 해의 존재 증명
• “반아벨 군은 단항군일 필요가 없다”는 2024년 추측에 대한 반례 제시
• 사이클 기반 완화 기법의 정확성(tightness)을 보이는 새 규칙 제시
• 현(string)의 2점 함수와 곡선 위 높이 함수를 연결해 수론과 p진 현 이론을 잇는 결과
• 진화 대수학(evolution algebra)에 관한 기존 추측에 대한 반례와 더 정밀한 분류 규칙 제시

협업 방식은 세 단계로 이뤄졌습니다. 먼저 각 주제의 수학자들이 연구 방향을 정하고 Muse Spark와 함께 아이디어를 탐색하며 논증을 발전시켰습니다. 이어 별도의 수학자 그룹이 결과를 검토했습니다. 마지막으로 논문 본문에는 어느 문단을 연구자가 쓰고 어느 문단을 AI가 작성했는지를 명시적으로 표시했습니다.

구체적인 사례도 공개됐습니다. 가우시안 타원체 적합 논문에서는 Aykut Arslan이 연구를 주도했고, AI가 증명 전략을 세우고 수정하는 과정을 도운 뒤 네 명의 수학자가 검증과 다듬기를 맡았습니다. 군론 논문에서는 Joseph Phillip Brennan과 Milana Golich가 참여했는데, Muse Spark가 유한군을 다루는 계산 소프트웨어 GAP용 탐색 프로그램을 직접 작성했고, 연구자들이 그 결과로 나온 반례를 검증했습니다. 산술 물리학 논문에서는 다섯 명의 연구자가 참여한 가운데 AI가 후보 증명을 내놓고 핵심 기술 절 세 개의 초안을 작성한 뒤 연구자들이 수정·정제했습니다. 메타는 이런 역할 분담을 “대량으로 논문을 찍어내는 것이 아니라 연구자의 역량을 끌어올리는 것”이 목표라고 설명했습니다. 각 논문은 ai.meta.com의 연구 발행물 페이지에서 확인할 수 있습니다.

의미와 한계

이번 공개의 의미는 결과 자체보다 과정의 투명성에 있습니다. 어느 문장을 AI가 썼고 어느 문장을 사람이 썼는지 논문에 명시한 것은, AI를 연구 과정에 끼워 넣을 때 저자 기여도를 어떻게 기록할지에 대한 하나의 실례를 제시합니다. 또한 특수 목적으로 튜닝한 시스템이 아니라 일반 공개 채팅 인터페이스로 이런 협업이 가능했다는 점도 눈여겨볼 대목입니다.

다만 한계도 뚜렷합니다. 가우시안 타원체 임계값을 비롯한 일부 결과는 2026년 8월 다른 연구팀들이 독립적으로 비슷하거나 더 넓은 결과를 이미 내놓은 상태였습니다. 즉 이 문제들이 Muse Spark가 아니었다면 풀리지 않았을 것이라는 뜻은 아닙니다. 메타 스스로도 이번 프로젝트의 의의를 “AI가 여섯 문제를 자율적으로 풀었다”는 주장이 아니라 협업 방식의 기록에 두고 있습니다. 또한 회사가 자체 블로그로 발표한 내용이라는 점에서, 동료 심사를 거친 정식 학술지 게재와는 별개로 봐야 합니다. 어떤 문제를 골라 도전했는지도 연구자들의 몫이었다는 점에서, 사람이 풀 만한 범위로 문제를 좁혀준 뒤 AI가 보조한 결과라는 해석도 가능합니다.

한 줄 정리

메타는 범용 챗봇으로 수학자와 협업해 논문 여섯 편을 냈지만, 핵심 성과 일부는 다른 팀도 독립적으로 이미 도달한 결과였습니다.