[인터뷰] 윤인수 KAIST 교수 “해킹을 과학적으로 이해하고 AI와 해킹을 접목하는 연구에 몰두”

“후배들, 리얼 월드 해킹에 도전하고 해커 커뮤니티에 기여하길”

데일리시큐는 최근 KAIST(한국과학기술원) 전기및전자공학부 조교수이자 정보보호대학원 겸임교수인 윤인수 교수를 만나 그의 해킹 및 보안 분야에서의 경력과 연구 철학을 상세히 들어보았다. 윤 교수는 해킹과 보안 분야에서 국내·외적으로 인정받는 학자로, 특히 AI와 해킹의 융합을 통해 사이버 보안의 새로운 패러다임을 개척하고자 하는 의지를 가지고 연구를 이어가고 있었다.

2021년 KAIST에 부임한 이후, 윤 교수는 학계와 산업계에서 다수의 성과를 거두었다. 그는 최근 AI를 활용한 해킹 방어 기술 개발에 주력하고 있었으며, 이를 통해 미래의 사이버 보안 패러다임을 혁신적으로 변화시키고자 하는 목표를 가지고 연구에 매진하고 있었다. 그의 연구는 빠르게 변화하는 기술 환경 속에서 사이버 보안의 새로운 기준을 제시할 것으로 기대되고 있다.

윤 교수는 또한 해커로서도 화려한 경력을 갖고 있다. 그는 여러 국제 해킹 대회에서 우승을 차지하며 세계적인 명성을 얻었으며, 2020년에는 가장 권위있는 제로데이 취약점 해킹 대회인 ‘Pwn2Own(폰투오운)’ 해킹 대회에서 수상하여 그의 팀이 전 세계적인 주목을 받는 계기를 마련했다. 이 외에도 세계 최고 권위를 갖고 있는 DEFCON(데프콘) CTF 해킹 대회에서 두 차례 우승과 다양한 해킹 대회에서의 성과로 인해 해커 커뮤니티 내에서 존경받는 인물로 자리매김했다. 이러한 경력은 그가 KAIST에서 학생들을 가르치며 실질적인 해킹 경험을 제공하는 데 중요한 역할을 하고 있었다.

이번 인터뷰에서 윤 교수는 해킹에 대한 그의 깊은 열정과 연구 철학을 공유하며, 해킹 연구의 과학적 접근과 시스템화에 대한 견해를 밝혔다. 또한, 해커 후배들에게 도전 정신과 커뮤니티에 대한 중요성을 강조하며, 해커 양성에 대한 자신의 솔직한 의견도 전했다.

사이버 보안 챌린지 대회 사진(윤인수 교수 제공) — 사이버 보안 챌린지 대회 참여 사진(윤인수 교수 제공)

#두 번의 데프콘 CTF 우승과 폰투오운 수상

윤 교수는 해킹에 처음 관심을 가지게 된 계기로 KAIST 내 보안 동아리 ‘GoN’을 꼽았다. KAIST에 입학할 당시 그는 컴퓨터에 대한 막연한 관심은 있었지만, 전문적으로 공부한 경험은 없었다고 했다. 물리를 전공하던 평범한 과학고 학생이었던 그가 KAIST에 입학한 후 활동할 동아리를 찾던 중, ‘GoN’의 멋진 포스터를 보고 동아리에 가입하게 되었고, 그때부터 해킹 공부를 본격적으로 시작하게 되었다고 설명했다.

그는 해커로서 가장 자랑스러운 성과로 두 번의 DEFCON 우승과 Pwn2Own 수상을 꼽았다. 특히 Pwn2Own 대회에서의 성과는 해커로서 이루고자 했던 목표를 달성한 것으로 큰 기쁨을 느꼈다고 말했다. 또한, 이러한 경험과 기쁨을 학생들도 느낄 수 있도록 학교 내에서 Pwn2Own 대회 참여를 적극적으로 독려하고 있다고 밝혔다. 최근에는 그의 연구실 소속 이승현 학생이 Pwn2Own에서 수상한 것을 매우 기쁘게 생각한다고 덧붙였다.

#해킹을 어떻게 과학적으로 이해하고 시스템화할 것인가

윤 교수는 현재 KAIST에서 학부와 대학원 과정을 대상으로 강의를 진행하고 있다. 학부에서는 기본적인 컴퓨터 시스템 지식을 가르치고, 대학원에서는 소프트웨어 해킹을 주제로 강의를 하고 있다. 특히 해킹에 관심이 많은 학생들이 참여하는 CTF(Capture The Flag) 대회의 형식을 빌려, 소프트웨어 해킹에 대한 전반적인 내용을 교육하고 있다고 설명했다.

그가 이끄는 KAIST 해킹연구실에서는 다양한 해킹 관련 주제를 다루고 있었다. 윤 교수는 연구의 방향으로 해킹이라는 영역을 어떻게 과학적으로 이해하고, 이를 바탕으로 어떻게 시스템화할 것인가에 초점을 맞추고 있다고 밝혔다. 구체적으로는 시스템 해킹에서 다루는 취약점을 자동으로 발견하고, 이를 공격하며, 방어하는 기술에 대한 연구를 진행하고 있었다. 연구 주제는 커널, 브라우저, 모바일 등 시스템 해킹에서 다루는 대부분의 영역을 포함하고 있었다.

#AI를 해킹에 접목하는 연구에 몰두

윤 교수는 최근 AI를 해킹에 접목하는 연구에 큰 관심을 두고 있었다. AI의 급속한 발전이 전 세계를 변화시키고 있는 상황에서, 이를 해킹 분야에 어떻게 적용할 수 있을지에 대한 고민이 매우 흥미로운 주제라고 말했다. 그는 AI를 활용하는 데 있어 그 장점과 한계가 명확히 존재한다고 설명하며, 이러한 한계를 극복하기 위해 기존의 소프트웨어 분석 기법과 관련 기술들을 AI에 어떻게 적절히 접목할 수 있을지를 연구하고 있다. 이를 통해 기존의 문제들을 해결하는 새로운 방법을 모색하고 있다고 덧붙였다.

#리얼 월드 해킹에 도전하고 해커 커뮤니티에 기여하길

윤 교수는 해커 후배들에게 두 가지 중요한 조언을 전했다. 첫째로, 그는 후배들이 더 대단한 일에 도전하기를 바랐다. 해킹 대회에만 집중하기보다는 실제 해킹에 도전해 리얼 월드 해킹 문제를 경험해보는 것이 중요하다고 강조했다. 리얼 월드 해킹은 해킹 대회와는 또 다른 도전이 될 수 있으며, 이러한 경험이 미래의 커리어에 큰 도움이 될 것이라고 덧붙였다.

둘째로, 그는 해커들이 커뮤니티의 중요성을 잊지 말아야 한다고 강조했다. 윤 교수는 우리가 해커 커뮤니티의 도움을 받아 성장할 수 있었던 만큼, 자신도 커뮤니티에 기여하고 정보를 공유하는 노력이 필요하다고 말했다. 커뮤니티가 더욱 활성화되고 성장하기 위해서는 이러한 기여가 중요하며, 연구 결과를 공유하고 발표하는 장이 더 많이 열려야 한다고 강조했다.

#해커 양성, 두 가지 측면에서 개선 필요해

윤 교수는 해커 양성에 대해 여러 의견들이 있지만, 특히 사회적 측면에서의 고민이 필요하다고 말했다. 현재 많은 기관과 기업에서 해커들을 필요로 하지만, 특정 기관에 인재가 몰리는 반면 다른 곳은 부족한 상황이 발생하는 문제가 있다고 지적했다. 특히 이러한 문제가 군과 경찰과 같은 사회적 기반 기관에서 발생할 경우 더 큰 문제가 될 수 있다고 우려했다.

그는 해커 양성의 방향성에 대해 두 가지 측면에서 개선이 필요하다고 말했다. 첫째로, "이미 동기가 부여된 자를 양성해야 한다"고 강조했다. 외부에서 동기 부여를 하려는 시도보다는, 이미 동기가 있는 사람들을 체계적으로 교육하는 것이 더 효율적이라고 설명했다. 둘째로, "동기 부여된 학생들의 동기를 꺾지 말아야 한다"고 강조했다. 낮은 연봉, 과도한 업무 시간, 성장의 정체 등 다양한 요소들이 학생들의 동기를 저해할 수 있기 때문에, 기관이 학생들의 커리어 성장에 더 신경을 써야 한다고 주장했다. 이를 통해 학생들이 흥미를 가지고 보람을 느끼며 일할 수 있는 환경을 조성해야 한다고 덧붙였다.

#AI 사이버 챌린지, 결승대회 진출 쾌거

지난 8월 8일부터 11일까지 미국 라스베이거스에서 열린 데프콘(DEF CON)에서는 미국 고등연구계획국(DARPA)이 주도한 AI 사이버 챌린지(AI Cyber Challenge, AIxCC) 예선 대회가 개최되었다. 이 대회는 AI를 활용한 차세대 해킹 시스템을 경연하는 자리로, 전 세계에서 91개 팀이 등록하고 39개 팀이 참여했다. 윤인수 교수의 연구실이 속한 연합팀, 팀 애틀랜타(Team Atlanta)는 국내 대학이 포함된 팀으로서는 유일하게 TOP 7에 포함되어 결승 진출팀으로 선정되었다.

팀 애틀랜타는 KAIST, 삼성리서치, POSTECH, 조지아공대의 연합팀으로, 이번 대회에서 뛰어난 성과를 거두며 AI 기반의 사이버 추론 시스템(CRS)을 통해 SQLite3에서 출제자가 의도하지 않은 신규 취약점을 발견하는 등의 성과를 올렸다. 이로써 팀 애틀랜타는 200만 달러의 연구비를 지원받게 되었으며, 내년 8월 데프콘에서 열리는 결승 대회에 출전해 최종 승부를 가리게 된다.

윤 교수는 이번 결과가 대한민국의 보안 연구 역량이 세계적으로도 우수한 수준에 도달했음을 보여주는 것이라며, 결승에서도 혁신적인 성과를 이끌어내기 위해 최선을 다하겠다고 밝혔다.

[PASCON 2024] 하반기 최대 사이버보안 컨퍼런스 초대!(보안담당자 7시간 보안교육이수)

▶주최: 데일리시큐

▶후원: 개인정보보호위원회, 한국정보보호산업협회

▶대상: 정부·공공·공기업·정부산하기관·금융·의료·교육·일반기업 개인정보보호 및 정보보안 담당자 1,000여명 (단, 현업 보안실무자 이외 프리랜서, 학생, 일반인 등은 보안과 관련 없는 자는 참석 금지)

▶일시: 2024년 9월 10일 화요일 오전 9시~오후 5시

▶장소: 더케이호텔서울 2층 가야금홀+거문고홀A 및 로비

▶인원: 개인정보보호 및 정보보안 실무자 1,000여 명

▶전시회: 국내외 최신 보안솔루션 전시회(30여개 기업 참여)

▶참가비: 무료/1일 주차권 지급/점심식사는 제공하지 않습니다.

▶보안교육: 사전등록+현장참석+설문제출자에 한해 7시간 교육이수증 발급

▶사전등록: 9월 8일 오후 5시 마감