2
부산메디클럽

일상 속 수학…산업 속 수학 <7> 수학과 인공지능 알고리즘

‘생각하는 기계’ 고안한 튜링, AI시대 서막을 열다

  • 우영호 국가수리과학연구소 응용기하팀장
  •  |   입력 : 2022-08-02 19:57:04
  •  |   본지 12면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
- 英고액권 50파운드 초상 인물
- 컴퓨터 빼닮은 ‘튜링머신’ 제시
- ‘정지문제’는 계산 불가능 증명

- 구 소련 수학자 페일러와 레만
- 그래프 동형문제 연구 큰 성과
- ‘신경학습’ 주된 방법론에 기여

- 수학서 출발한 AI·컴퓨터과학
- 독립 후엔 상호작용으로 발전
앨런 튜링의 사진이 담긴 영국 50파운드 지폐. 튜링은 인공지능(AI)컴퓨터(오른쪽 사진)의 기본 개념을 수립했을 뿐만 아니라 2차 세대대전 당시 24시간마다 바뀌는 독일군의 ‘애니그마’ 암호를 풀어내 노르망디 상륙작전의 성공에 지대한 공을 세웠다는 평가를 받고 있다. 국제신문 DB
■인공지능의 수학적 기원

19세기 후반부터 수학계에서는 수학의 기초 토대를 마련하기 위해 여러 관점이 제시됐다. 칸토어는 수학의 근간이 되는 집합론을 창시해 무한의 개념을 엄밀하게 다루게 되었으나 러셀의 파라독스가 제기됨으로써 집합론으로부터 시작되는 수학의 체계에 관한 근본 논의가 시작됐다. 논리주의 직관주의 형식주의가 대표적이다. 논리주의는 수학을 논리학의 일부로 치환하려는 노력이었고, 직관주의는 수학이 인간 정신활동의 산물로, 직관적으로 혹은 본능적으로 참으로 여겨지는 명제만이 참인 것으로 인식된다. 마지막으로 형식주의는 수학이 몇 가지 공리로부터 출발해 기호의 기계적인 연역을 통해 체계를 완성할 수 있다는 주장이다.

형식주의 대표적인 옹호자인 독일의 수학자 힐버트(David Hilbert)는 1928년 세계수학자대회(ICM·International Congress of Mathematics)에서 완벽성(Completeness) 무모순성(Consistence) 결정성(Decidability)이 담보되는 수학의 공리체계가 존재할 것이라고 주장했다. 이를 ‘힐버트 프로그램’이라고 한다. 간략히 설명하면, 완벽성은 “모든 참인 명제는 공리로부터 도출될 수 있다”이고, 무모순성은 “공리체계가 모순이 없음은 주어진 공리계 안에서 증명될 수 있다”이며, 결정성은 “항상 명제의 참과 거짓을 결정할 수 있는 알고리즘이 있다”는 것으로 결정문제(Entscheidungsproblem)로 불리운다. 그러나 불행히도 몇 해 지나지 않아 힐버트가 제시한 세 가지 원칙은 모두 가능하지 않음이 증명된다.

먼저, 괴델(Kurt Godel)은 불완전성 정리를 증명해 완벽성과 무모순성이 성립하지 않음을 보였다. 괴델의 불완전성 정리는 그 당시 수학계의 화두였다. 당시 수학의 중심이었던 유럽 유수한 대학의 수학과에서는 괴델의 정리에 관한 강의가 개설되었는데, 영국 케임브리지 대학의 수학자 앨런 튜링(Alan Turing)은 자신만의 독특한 방법으로 힐버트의 결정문제에 관한 해답을 제시했다. 튜링은 ‘튜링머신’이라는 가상의 기계를 고안해, 결정문제에 등장하는 ‘알고리즘’을 이 기계가 계산할 수 있다는 것으로 규정했다. 그는 소위 ‘정지문제(Halting problem)’라는 것은 튜링머신으로 계산될 수 없음을 증명함으로써 힐버트의 결정문제를 풀었다.

튜링머신은 입력할 숫자들을 적을 수 있는 테이프, 이들 숫자를 읽거나 쓸 수 있는 ‘헤드’, 이들의 작동규칙을 결정하는 ‘제어기’ 등 세 가지 구성요소를 가지고 있다. 놀랍게도 이런 각각의 구성요소는 현대컴퓨터에 메모리, 중앙처리장치(CPU) 및 키보드, 모니터와 같은 입출력 장치로 고스란히 재현되고 있다. 이후 튜링은 기계가 계산할 수 있는 것, 즉 기계지능에 관한 연구를 계속해 ‘이미테이션 게임(튜링테스트)’ 같은 인공지능(AI) 연구에 막대한 영향을 끼쳤다. 영란은행은 2019년 새로운 50파운드 지폐의 초상 인물로 튜링을 선정, 그의 업적을 기리고 있다.
튜링머신을 물리적으로 구현한 모델. 영문 위키피디아
■그래프 신경학습과 동형문제

위에서 언급된 서방세계의 앨런 튜링이나 마빈 빈스키, 존 매카시 등이 인공지능 연구의 시초로 여겨지고 있으나, 소련의 인공지능 초기 연구는 알려지지 않았다. 1960년대의 컴퓨터과학의 주요 연구주제 중 하나는 알고리즘의 계산복잡도였다. 즉, 빠른 알고리즘과 그렇지 않은 알고리즘으로 구분하는 연구였다. 다양한 문제가 분류되고 있었으나 실질적으로 중요한 문제였던 그래프 동형문제에 관해서는 빠른 알고리즘이 알려지지 않았다. 그래프는 점과 이를 연결한 선을 추상화한 수학적인 개념인데, 그래프 동형문제란 주어진 두 그래프가 같은 그래프인지를 판별하는 문제다.

당시 소련의 AI 연구소의 젊은 수학자인 바이스 페일러(Boris Weisfeiler)와 레만(Andrey Leman)은 두 그래프가 동형일 필요조건을 계산 가능한 빠른 알고리즘으로 구현했다.

지금은 ‘Weisfeiler-Leman algorithm’으로 불리고 있다. 이 알고리즘은 주어진 그래프의 각각의 점에서 주변의 연결된 점의 정보를 취합하는 과정을 통해 그래프 특성을 파악하는 게 핵심이다. 이런 그래프의 각 점에서 주변의 정보를 취합하고 자신의 정보와 결합하는 ‘Aggregate-Combine’ 방법은 현대 그래프 신경학습의 주된 방법론인 ‘Massage Passing’에 그대로 적용되고 있다.
주어진 두 개의 그래프 G, G’ 출처:Weisfeiler-Lehman Graph Kernels(2011, N. Shervashidze et al)
■수학과 인공지능 연구의 상호 작용

위에서 언급된 바와 같이 최근 딥러닝을 비롯한 인공지능 알고리즘의 초기 연구는 수학의 한 분야였고, 현재도 수학적 원리나 개념을 기반으로 연구되고 있다.

알고리즘이란 용어도 수학에서 출발했고 알고리즘에서 기본적인 서술은 수학적인 기호나 용어로 기술된다. 이렇게 인공지능이나 컴퓨터과학은 수학에서 출발했으나 이후 수학과는 별개로 독립된 연구 분야로 자리매김 했으며 수학과 지속적인 상호작용으로 발전하고 있다.

최근에는 전통적으로 자연과학이나 공학에 널리 활용되는 선형대수학 미적분학 확률론 등의 분야뿐 아니라 수학의 세분된 전문분야인 (편)미분방정식 미분기하 위상수학 등의 순수수학으로 분류되던 수학의 영역까지도 활용돼 딥러닝이나 머신러닝 알고리즘에 적용되고 있다. 또한 반대로 이렇게 개발된 인공지능 알고리즘을 활용해 전통적인 수학 문제를 해결하거나 새로운 수학적 명제를 발견하는 데 도움을 주고 있다.


# 수리연 기하학 활용, 그래프신경망 연구 

기하적 딥러닝의 대상. 출처:‘Geometric Deep Learning Grids, Groups, Graphs, Geodesics, and Gauges’ by Bronstein et al.
19세기 후반 독일의 수학자 클라인(Felix Klein)은 전통적인 유클리드 기하와 18, 19세기를 거쳐 발전되어온 여러 비유클리드 기하를 통합해 기하학의 현대적 의미를 부여했다. 엘랑겐 프로그램(Erlangen program)이라고 말하는 것으로, 클라인은 기하학의 중요한 관점을 대수적인 개념인 군(群) 이론을 활용해 기하적인 대상의 변환불변량에 두어야 한다고 주장했다. 이런 기하학에 관한 관점은 현대적 개념의 기하학에 근간을 이뤄 위상수학 미분기하 대수기학 발전에 초석을 마련했다. 또한 수학뿐만 아니라 에너지의 보존법칙과 대칭성의 관계를 설명하는 뇌터의 정리(Noether’s theorem)를 통해 현대물리학에도 큰 영향을 주었다.

최근 데이터과학의 기계학습 분야에서도 비슷한 시도가 이루어지고 있다. RNN(순환신경망) CNN(합성곱신경망) GNN(그래프신경망) 등의 다양하게 개발된 많은 종류의 기계학습 원리를 기하학의 관점에서 접근해 통합적인 해석을 하려는 움직임이다. 소위 ‘기하적 딥러닝(Geometric deep learning)’이라고 한다.

국가수리과학연구소 응용기하팀은 이런 연구주제 가운데 하나인 그래프 표현론 및 그래프신경망 연구를 진행하고 있다. 현실의 데이터는 엑셀데이터와 같이 숫자의 정형적 구조뿐만 아니라 기하학적인 구조를 가진 그래프나 다양체로 표현되는 경우가 많다. 소셜네트워크 논문네트워크(citation network) 교통망 뇌신경망지도 분자구조 등이 대표적인 예라고 할 수 있다. 연구소는 이런 데이터의 분석을 전통적인 기계학습 방법론을 넘어 위상수학, 기하학 등 심화된 수학 연구와 접목해 기존 인공지능 알고리즘 개선, 기하적 특성을 보존하는 표현학습 알고리즘 개발 및 안정성 증명으로 알고리즘의 신뢰성을 확보하고자 노력하고 있다.

※공동기획:국제신문·국가수리과학연구소
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1고속도로 요금소 주변에서 한눈팔면 큰 낭패 본다
  2. 2수도권 가구 평균 자산 7억 원 육박…비수도권의 1.7배
  3. 3통영 국도서 승용차-SUV 6중 추돌…운전자 등 8명 부상
  4. 4[박수현의 꽃] 아토피 등 피부 질환 치료에 최고로 알려져
  5. 5美 '반도체 인센티브' 계획 발표…정부 "업계와 공동 대응"
  6. 6“추석 연휴 이동 때는 지갑이나 여권 간수 잘하세요”
  7. 7[영상] 재난 관리 제각각... 온천천 사고 예방의 허점
  8. 8美정부 셧다운 '초읽기'…하원의장 주도 임시예산안 하원서 부결
  9. 9기름값 12주째 상승…휘발유 1800원·경유 1700원 근접
  10. 10[아시안게임] LOL 대표팀, 전승 우승 금메달…현재 e스포츠 金2-銅1
  1. 1이재명의 영수회담 다목적 포석
  2. 2尹, ‘명절 근무’ 지구대 소방서 찾아 격려
  3. 3[종합]이재명, 尹 대통령에 '민생영수회담 제안'... 여 "뜬금포"에 야 "전제군주" 반박
  4. 4단식과 검찰로 보낸 이재명의 시간
  5. 5이재명, 尹에 '민생영수회담' 제안, 與 "뜬금없어, 대표회담부터"
  6. 6尹, 원폭피해 동포들과 오찬 "한일관계 미래지향적 발전시킬 것 "
  7. 7민주당 원내수석에 박주민 의원 선임
  8. 8연휴 첫날 인천공항 찾은 윤 대통령, "수출 수입 더 늘려야"
  9. 9추석 앞 윤 대통령 지지율 36.0%로 1.8%p↓…국민의힘 36.2% 민주 47.6%
  10. 10이재명 추석 인사 “무능한 정권에 맞서 국민 삶 구하겠다”
  1. 1고속도로 요금소 주변에서 한눈팔면 큰 낭패 본다
  2. 2수도권 가구 평균 자산 7억 원 육박…비수도권의 1.7배
  3. 3美 '반도체 인센티브' 계획 발표…정부 "업계와 공동 대응"
  4. 4“추석 연휴 이동 때는 지갑이나 여권 간수 잘하세요”
  5. 5기름값 12주째 상승…휘발유 1800원·경유 1700원 근접
  6. 6외식 물가, 27개월 연속 전체 평균 상회…부산은 33개월째
  7. 7코스피, 3분기 지수 성과 G20 중 15위, 4분기 반등 주목
  8. 8여행자 통한 마약 밀수 올해 7.6배 급증…"특단 대책 시급"
  9. 9소형어선에 최첨단 기자재 해상실증한다
  10. 10카보베르데 찾은 산업 장관, 부산엑스포 유치 지지 요청
  1. 1통영 국도서 승용차-SUV 6중 추돌…운전자 등 8명 부상
  2. 2[영상] 재난 관리 제각각... 온천천 사고 예방의 허점
  3. 3귀경 본격화 고속도로 정체, 부산역, 김해공항 등도 북새통
  4. 430일, 부산, 울산, 경남 가끔 비…낮과 밤의 기온차가 10~15도
  5. 5"올해 유난히 덥더니" 온열질환 추정 사망자 역대 두번째
  6. 6진주 진성면 비닐하우스 화재…40대 남성 숨져
  7. 7부산 버스 승강장에 멧돼지…엽사 사살
  8. 8귀경 본격화 고속도로 정체…부산~서울 6시간 50분 소요
  9. 9부산~거제 2000번 버스 개통 이후 9년 만에 요금 첫 인상
  10. 10부산 영도구 사찰에서 불...소방차 30대 출동
  1. 1'우즈베크 유도' 쿠라시서 한국 첫 메달 "금메달까지 노린다"
  2. 2'윤학길 딸' 윤지수. "아버지와 맥주 마시고 싶어"
  3. 3북한 역도 여자 49㎏급 리성금, 세계 신기록으로 금메달 '번쩍'
  4. 4[아시안게임] 여자 탁구 복식 신유빈-전지희, 북한 누르고 8강 진출
  5. 5[아시안 게임] 김우민 한국 수영 역대 3번째 3관왕
  6. 6[아시안게임]최동열 한국신기록으로 남자 평영 50m 동메달
  7. 7부산의 금빛 여검객 윤지수, 부상 안고 2관왕 찌른다
  8. 8추석연휴 첫날 金 쏟아지나…김우민 자유형 800m·황선우 계영 400m 출전
  9. 9세계 최강 어벤저스 펜싱 남자 사브르 단체팀, 중국 여유 있게 제치고 우승
  10. 10행운의 대진표 여자 셔틀콕 금 청신호
우리은행
위기가정 긴급 지원
지인에게 빌린 수술비·투석비용 지원 절실
밴쿠버에서 만난 영도의 미래
녹슨 배 400여 척 해안 점령…‘옛것’도 쾌적해야 자원 된다
  • 맘 편한 부산
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내
스토리 박스