Notice

KU News 기사를 공유합니다.

https://www.konkuk.ac.kr/konkuk/2098/subview.do?enc=Zm5jdDF8QEB8JTJGYmJzJTJGa29ua3VrJTJGMjU5JTJGMTE1NjAxNyUyRmFydGNsVmlldy5kbyUzRnBhZ2UlM0QxJTI2c3JjaENvbHVtbiUzRCUyNnNyY2hXcmQlM0QlMjZiYnNDbFNlcSUzRCUyNmJic09wZW5XcmRTZXElM0QlMjZyZ3NCZ25kZVN0ciUzRCUyNnJnc0VuZGRlU3RyJTNEJTI2aXNWaWV3TWluZSUzRGZhbHNlJTI2cGFzc3dvcmQlM0QlMjY=

- 김학수 교수팀, 인간 친화형 AI 개발을 주제로 한계와 리스크 등 규명해

△ACL 학술대에 참석한 건국대 자연어처리 연구팀. 왼쪽부터 이재욱 석사, 장준서 석사과정생, 김학수 교수, 이우진 석사과정생, 박건 석사과정생, 한규빈 석사과정생

건국대학교 김학수 교수가 이끄는 ‘자연어처리(NLP) 연구실’이 세계 최고 권위의 자연어처리 분야 국제학술대회인 ‘ACL 2025(Association for Computational Linguistics)’에서 총 4편의 논문을 발표하는 성과를 거뒀다. 이번 학술대회는 7월 28일부터 8월 1일까지 오스트리아 빈에서 개최됐다.

ACL은 인공지능 자연어처리 분야에서 ‘자연어처리방법론학회(EMNLP)’와 함께 가장 영향력 있는 국제 학회로 꼽히며, 전 세계 유수의 연구기관과 기업들이 최신 성과를 공유하는 무대다. 건국대 연구팀은 인간 친화형 인공지능 개발을 주제로 한 네 편의 논문을 발표하며 국제적 주목을 받았다.

한규빈, 장준서 학생의 ‘Exploring the Impact of Instruction-Tuning on LLM’s Susceptibility to Misinformation‘에서는 사용자 지시에 충실히 따르도록 학습된 AI 모델이 오히려 가짜뉴스에 더 쉽게 속을 수 있다는 역설적 문제를 지적했다. 연구진은 AI가 ‘사실 여부 검증’보다 ‘지시 이행’을 우선시하는 구조적 한계를 실험적으로 규명했다.

이재욱, 장준서 학생이 참여한 ‘Small Changes, Big Impact: How Manipulating a Few Neurons Can Drastically Alter LLM Aggression’는 AI 내부의 특정 뉴런 일부만을 조작해도 공격적인 문장 생성 비율이 최대 33%까지 증가할 수 있음을 실험적으로 입증한 논문이다. 이를 통해 단순 필터링 방식으로는 AI의 위험성을 충분히 통제하기 어렵다는 점을 부각시켰다.

이재욱, 장예진 학생의 논문 ‘Does the Emotional Understanding of LVLMs Vary Under High-Stress Environments and Across Different Demographic Attributes?’는 AI의 감정 인식이 스트레스 상황, 인종, 성별, 연령 등에 따라 달라진다는 점을 밝혀냈다. 연구진은 이 논문을 통해 AI가 인간과 마찬가지로 편향된 반응을 보일 수 있음을 제시했으며, 이에 따른 신뢰성과 공정성 확보의 중요성을 강조했다.

이재욱, 이우진 학생 저작 ‘Do Large Language Models Have ‘Emotion Neurons’? Investigating the Existence and Role‘은 AI 내부에 ‘기쁨’, ‘슬픔’, ‘분노’ 등 특정 감정을 담당하는 뉴런이 존재할 수 있음을 제시했다. 연구진은 AI 모델에서 이들 뉴런을 제거했을 때 감정 인식 능력이 저하되는 현상을 관찰하며, AI가 복잡한 감정 개념을 일정 부분 구조적으로 이해하고 있을 가능성을 보여주었다. 해당 논문은 ACL의 메인 세션에서 발표되었을 뿐 아니라, ‘SICon 워크숍’ 세션에서도 추가 초청을 받아 발표됐다.

△주오스트리아 한국대사관에서 열린 국내 인공지능 연구자 초청 간담회에 참석한 김학수 교수(오른쪽에서 4번째)

한편, 김학수 교수는 이번 성과를 바탕으로 ACL에 참가한 국내 주요 연구자들과 함께 주오스트리아 한국대사관에서 열린 인공지능 연구자 초청 간담회에 참석해, 한국 인공지능 기술의 국제 협력 확대 방안과 윤리·사회적 함의에 대한 의견을 나눴다.