Notice

솔트룩스, 생성형 AI의 윤리성 향상 연구로 국제 학술대회에서 인정받아

인공지능(AI) 전문기업 솔트룩스(대표 이경일)가 올해 ‘사회적ㆍ윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구’ 과제의 주관사를 수행하며, 과제 참여 대학인 건국대학교와 카이스트(KAIST)가 국제 학술대회 EMNLP 2024와 ACL 2024에서 총 4편의 우수 논문을 발표했다고 밝혔다.

최근 생성형 인공지능(AI)은 우리의 일상에서 빠르게 확산하고 있지만 인종차별적 발언, 폭력적 콘텐츠 생성 등 사회적 문제를 초래하며 AI 기술의 윤리성과 사회적 책임이 주요 화두로 떠오르고 있다. 이와 관련해 솔트룩스는 건국대학교 김학수 교수 연구팀 및 카이스트 김기응 교수 연구팀과 함께 생성형 AI의 사회적ㆍ윤리적 성능 강화를 목표로 연구를 진행하고 있다.

이번 연구에서 발표된 논문 중 하나인 ‘GDPO: Learning to Align Language Models with Diversity Using GFlowNets’는 특히 업계와 학계의 큰 주목을 받았다. 해당 논문은 기존 RLHF(Reinforcement Learning from Human Feedback) 기법 중 하나인 DPO(Distance-based Preference Optimization)가 인간 피드백 데이터에 과적합되는 경향이 있어 데이터셋 내 편향이 모델에 반영될 가능성을 지적했다. 이를 해결하기 위해 GFlowNet 기반의 GDPO 학습 알고리즘을 도입, 오프라인 선호도 정렬 방식을 개선함으로써 더욱 다양한 답변을 생성하고 인간의 가치에 부합하는 응답을 생성할 수 있음을 검증했다.

이와 함께 솔트룩스 컨소시엄은 올해 현재까지 1편의 국제 특허 출원, 5편의 국내 특허 출원, 8건의 국내 학술대회 발표 등 다양한 활동을 전개하고 있다. 또한 12월 말에는 연구를 통해 개발한 학습 데이터, 소스코드, 생성 AI 모델을 공개해 국내외 연구자들이 이를 활용할 수 있도록 지원할 계획이다.

솔트룩스 김재은 랩장은 “2025년에는 초거대 AI 에이전트 서비스가 대중화되며 AI의 윤리적 문제에 대한 관심이 더욱 커질 것”이라며, “이러한 시점에서 사회ㆍ윤리성 가이드라인의 수립과 이를 지원하는 종합 대응 서비스 플랫폼의 필요성은 더욱 중요해질 것으로 보인다. 솔트룩스는 이러한 기준 마련에 앞장서겠다”고 말했다.

기사원문: http://www.kdpress.co.kr/news/articleView.html?idxno=134361