이화여자대학교 일반대학원
인공지능·소프트웨어학부 인공지능융합전공

https://www.eiric.or.kr/manpower/rising_view.php?Seq=67

이화여자대학교 컴퓨터공학 심재형 교수님을 이릭 라이징스타에서 소개합니다. 인공지능(AI) 기술의 발전과 그 적용은 현대 사회에서 중요한 연구 분야 중 하나인데요. 교수님은 이러한 연구의 배경 속에서 특히, AI 하드웨어와 소프트웨어 간의 상호작용을 깊이 이해하고 이를 동시에 설계 및 최적화함으로써, AI 시스템의 성능과 효율성을 극대화하는 방법에 대한 연구에 매진하며, 나아가 이러한 연구가 단순히 학문적인 관심과 이론에 그치지 않고 실제 산업 현장에서도 적용할 수 있는 기술 개발을 목표로 하고 있습니다. 또한 교육자로서의 역할도 중시하며 학생들에게는 동기를 부여하고 지식을 전달하는 데도 큰 열정이 느껴지는 교수님과의 인터뷰, 이릭이 전해드립니다. 

▶ 교수님 소개 부탁드립니다. 

안녕하세요. 이화여자대학교 엘텍공과대학 컴퓨터공학전공 소속이자 인공지능대학 인공지능학과 겸임으로 재직 중인 심재형입니다. 저는 2012년 KAIST에서 전기및전자공학으로 학사학위를 받고, 동대학원에서 김이섭 교수님 (Multimedia VLSI 연구실)의 지도 아래 2014년 석사학위, 2019년 박사학위를 받았습니다. 박사학위 주제는 합성곱 신경망을 가속할 수 있는 프로세서와 메모리 구조 설계였습니다. 박사학위 취득 후 KAIST에서 1년간 박사후 연구원으로 근무하였고 2020년 3월에서 2021년 3월까지는 삼성전자 종합기술원 (SAIT)의 책임연구원으로 일하며 데이터센터향 NPU (Neural Processing Unit)를 설계했습니다. 이후 2021년 4월부터 이화여자대학교에서 근무하기 시작했습니다.

▶ 주 연구 분야 대한 소개 및 동향에 대해 말씀 부탁드립니다.

제 주 연구 분야는 AI 모델을 가속할 수 있는 하드웨어, 소프트웨어, 그리고 AI 알고리즘을 동시에 설계하는 것입니다. ChatGPT의 등장으로 알 수 있다시피 AI 모델의 크기는 갈수록 매우 커지고 있으나 이를 동작시키는 컴퓨팅 플랫폼의 발전은 이를 뒤따라잡지 못하고 있습니다. 특히 하드웨어의 경우 무어의 법칙으로 인한 반도체 공정 발전이 끝을 바라보고 있습니다. 이로 인해 거대 AI 모델을 동작시키는 데 수백 개 이상의 GPU를 사용하며 동작 시간이 느려지고 전력을 많이 소모하고 있는 상황입니다. 이러한 현 문제점을 해결하기 위해서는 기존의 패러다임을 깨는 하드웨어 구조를 설계함과 동시에 이를 뒷받침하는 소프트웨어의 최적화, 그리고 AI 모델 알고리즘에서의 공동 설계가 필요합니다. 기존에는 하드웨어 설계, 소프트웨어 설계가 따로따로 이루어졌다면, 저희 연구실에서는 이를 동시에 수행하여 AI 모델을 더 빠르고 저전력으로 작동시키는 컴퓨팅 시스템을 연구하는 겁니다. 하드웨어를 고려한 AI모델 경량화, 신경망 구조 탐색 및 하드웨어 설계가 구체적인 주된 연구 분야입니다.

▶ 연구실 (AI Computing Platform Lab.)에서 진행하시는 연구 과제들이 궁금합니다.

저희 연구실에서 현재 진행하고 있는 과제는 크게 두 가지입니다. 첫째로는 하드웨어를 고려한 신경망 구조 및 하드웨어 탐색 (Neural Architecture Accelerator Search, NAAS)입니다. 기존의 신경망 구조 탐색은 대부분의 경우 하드웨어를 고려하지 않아, 정확도는 높지만 속도는 느린 신경망 구조를 찾아줬습니다. 저희 연구실에서는 이를 벗어나 하드웨어에 궁합이 잘 맞는 빠른 속도의 신경망 구조를 찾는 연구를 하고 있습니다. 더불어 하드웨어 구조도 동시에 찾게 되어 신경망/하드웨어에 모두 최적인 지점을 탐색합니다. 두 번째는 하드웨어를 고려한 모델 경량화입니다. 경량화에는 양자화 (Quantization), 가지 치기 (Pruning), 지식 증류 (Knowledge Distillation) 등 여러 가지 기법들이 연구되어 왔으나 많은 경우 하드웨어로 구현하는 데는 한계가 있습니다. 저희 연구실에서는 이러한 경량화 기법을 하드웨어 친화적으로 설계하는 과제를 수행하고 있습니다.

▶ 그동안 연구하시면서 가장 큰 어려움이 있었다면? 그러한 경우 어떻게 극복하셨는지요?

제가 연구하면서 가장 큰 어려움을 겪었던 시기는 아무래도 석사학위 논문을 작성할 때였던 것 같습니다. 연구 주제를 잡기까지 오랜 시간이 걸려 실제 아이디어를 내고 실험을 하고 결과물을 만들 시간이 빠듯하였습니다. 석사학위를 제 시간에 끝내지 못할 것 같다는 압박감에 시달렸습니다. 특히 문제를 해결할 아이디어가 잘 떠오르지 않아 애를 먹었습니다. 저는 그 문제를 스스로 부여잡고 있었는데, 그 문제를 연구실 선배에게 가져다주니 단번에 아이디어를 주셨습니다. 그 뒤로는 밤을 새가며 실험하고 논문을 작성하여 석사학위 디펜스를 끝내고, 해당 논문을 토대로 국제학술대회에 발표를 하여 최우수 논문상을 받기까지 했습니다. 연구에는 단지 끈기와 노력뿐만 아니라 주변 사람들과의 적극적인 소통도 중요하다는 것을 깨달을 수 있는 경험이었습니다.

▶ 특별히 기억에 남는 본인의 연구를 꼽는다면?

저는 “반도체의 올림픽”이라고도 불리는 반도체 설계 분야의 가장 저명한 ISSCC라는 국제학술대회에 2016년에 논문*을 발표한 것이 가장 기억에 남습니다. 논문을 쓰기 위해서 실제 실리콘 칩을 설계해야 했는데, 처음 접해보는 반도체 설계 과정이라 많이 힘들었던 기억이 있습니다. 그렇지만 제가 만든 칩이 공정에서 나와 실제 작동하는 걸 확인했을 때 굉장히 큰 성취감을 느꼈었습니다. 큰 기대를 하지 않았는데 ISSCC에 논문이 실리게 되었다는 소식을 듣고 기뻤던 순간이 아직도 생생합니다. 또한 그 연구 결과를 학회에서 잘 발표하기 위해 한국에서 한 번, 미국 현장에서 한 번 리허설을 하는 등 많은 노력을 기울였던 것이 힘들지만 기억에 많이 남습니다.

* 『14.6 A 1.42TOPS/W deep convolutional neural network recognition processor for intelligent IoE systems』 2016 IEEE International Solid-State Circuits Conference (ISSCC)

▶ 앞으로 도전하고 싶은 연구가 있다면?

산업계에서 들은 고충 중 하나가 냉장고와 같은 임베디드 디바이스에서 AI를 사용자에 맞게 개인화 하는 것이 어렵다는 것입니다. 두 가지 문제가 있는데, 첫 번째로 개인화를 위한 학습 데이터가 부족하다는 것이고 두 번째가 학습 알고리즘을 동작시키기에 임베디드 시스템이 가진 컴퓨팅 리소스가 제한적이다는 것입니다. 저는 이 두 가지 문제점을 해결할 수 있는 하드웨어 친화적인 개인화 학습 알고리즘을 설계하는 것이 새로운 도전이 되지 않을까 합니다.

▶ 교수님에게 영향을 미친 인물 또는 귀감으로 삼으시는 연구자가 있다면?

저에게 큰 영향을 미친 분은 아무래도 석/박사 지도교수님이셨던 KAIST 김이섭 교수님입니다. 지도교수님 덕분에 논리적으로 사고하는 법, 연구 방향을 설정하는 법 등 많은 점을 배울 수 있었습니다. 또한 저도 이제 교수가 된 시점에서 지도교수님이 보여주셨던 연구실 운영 능력과 청렴함을 본받아야겠다고 많이 생각하고 있습니다. 저는 연구적으로는 따로 귀감으로 삼는 연구자가 있습니다. MIT의 Song Han 교수인데요. 저랑 연구 분야가 상당히 일치하는데 세계적인 연구를 수행하고 계셔서 그 분을 벤치마킹하여 연구를 수행하려 하고 있습니다.

▶ 수업이나 학생 지도방식 등에 있어서 교수로서의 포부가 있다면?

비슷한 질문을 제가 임용 면접할 때 받은 기억이 있네요. 그때도 그렇고 지금도 변함없이 제 교육 철학은 학생에게 큰 동기부여를 불어넣어주자는 것입니다. 어느 학생이든 동기부여가 잘 되어 있다면 충분히 많은 일들을 해낼 수 있다고 생각합니다. 자기 자신에 대한 동기부여가 결여되어 능력이 발휘되지 못하는 학생들을 보면 안타깝다는 생각이 듭니다. 저는 학생들에게 손수 모범을 보이는 방법으로 동기부여를 이끌어내려고 합니다. 수업에서 철학이 있다면 저는 단순 이론만이 아닌 실습과 예시를 가르치는 것이 중요하다고 생각합니다. 즉, 이론을 쉽게 이해하기 위해서는 예시가 필요하고, 그 이론을 구현하기 위해서는 실습 과정이 수반되어야 한다고 생각합니다.

▶ 학생들에게 권할 만한 추천 서적 또는 타 연구자의 논문이 있다면 말씀해 주세요.

저는 평소에 AI 하드웨어 또는 NPU에 관심이 있는 학생에게는 다음 두 논문을 꼭 읽으라고 조언합니다.

- 『Eyeriss: A Spatial Architecture for Energy-Efficient Dataflow for Convolutional Neural Networks』 ISCA 2016

- 『In-Datacenter Performance Analysis of a Tensor Processing Unit』 ISCA 2017

첫 번째 논문은 저와 인연이 있는 게 저 논문에서 소개된 칩이 저랑 같이 2016년도 ISSCC에서 발표된 바 있습니다. 바로 제 앞 순서에서 발표했는데 너무 잘해서 긴장했던 기억이 있는데요. NPU의 기초적인 개념과 설계법을 배울 수 있는 좋은 논문입니다. 두 번째 논문은 구글 TPU에 관한 논문인데, 우수한 컴퓨터 구조적인 통찰력을 보여주는 논문이라고 생각합니다.

그리고 추천 서적으로 『몰입』 (황농문 저)을 꼭 읽으라고 권하고 싶습니다.

▶ 이 분야에 관심 있는 학생들을 위한 조언을 부탁드립니다.

이 분야는 하드웨어와 소프트웨어를 동시에 잘 이해하고 있어야 합니다. 수직적인 소프트웨어 스택 관점에서 보면 맨 밑단의 하드웨어부터 시작해서 중간의 라이브러리, 컴파일러, 그리고 맨 윗단의 어플리케이션까지 모든 과정을 이해하는 것이 중요합니다. 분명 이것들을 다 이해하는 것이 어려울 수는 있겠지만 이를 다 섭렵한다면 분명 특출난 엔지니어로서 성장하게 될 것입니다. 요즘 추세가 점차 하드웨어와 소프트웨어를 둘 다 잘 아는 융합형 인재를 선호하기 시작해서, 이 분야에서 공부하는 것이 앞으로 좋은 기회가 될 것이라고 생각합니다.

▶ 앞으로 계획에 대해 말씀해 주세요. 

기존에 제가 논문을 써왔던 곳은 하드웨어 쪽에 한정적이었습니다. 하드웨어/소프트웨어를 둘 다 하는 연구실로 진화해 나가는 만큼 AI 또는 시스템 분야에서도 권위 있는 국제학술대회에 논문을 싣는 것이 가장 큰 목표입니다. 또한 연구를 위한 연구가 아닌, 실제로 산업체에서 받아들여질 수 있는 실용적인 연구를 산학협력을 통해 수행해 나가고자 합니다.

▶ 그 밖에 하시고 싶은 이야기

제가 이렇게 연구하고 학생들을 지도할 수 있게 된 것은 부모님의 전폭적인 지원과 제 아내의 내조 덕택입니다. 이 기회를 빌어 사랑하는 부모님과 아내에게 감사의 인사를 전합니다. 그리고 태어난 지 9개월 된 아들 채율이에게도 사랑하다는 말 전합니다.

연구자 정보 >>