인천--(뉴스와이어)--인공지능(AI) 플랫폼 전문기업 몬드리안에이아이(대표 홍대의)는 한국과학기술연구원(KIST) 뇌과학연구소 한경림 박사가 총괄책임을 맡은 과학기술정보통신부 2025년도 ICT R&D 안전AI 대형 신규과제에 참여한다고 14일 밝혔다.

과제명은 ‘뇌인지 다학제 국제거버넌스 기반 인공지능 편향성 검출-교정-설명가능 지능적 자율진화 플랫폼 개발’로, 생성형 AI의 편향성·환각·불안정성 문제를 최소화하고 공공·민간 서비스의 신뢰성과 공정성을 높이는 것을 목표로 한다.

이번 연구개발은 KIST 한경림 박사가 총괄하며, 몬드리안에이아이 홍대의 대표가 제1공동연구개발기관 책임을 맡는다. 또한 호주 멜버른대 한소연 교수, 한양대 이상욱 교수, KAIST 연구진 등이 참여해 국내외 학제 간·국제 거버넌스 기반 협력을 통해 안전AI 연구의 폭과 깊이를 확장한다.

몬드리안에이아이는 파운데이션 모델의 편향성을 제거하고, 신뢰할 수 있는 답변을 도출하기 위한 LLMOps(거대언어모델 운영) 및 LMMOps(거대멀티모달모델 운영) 플랫폼 기술 개발과 AI Safety 서비스 구현을 담당한다.

몬드리안에이아이가 개발 예정인 플랫폼은 다양한 파운데이션 모델을 수용해 자율적으로 진화하는 AI 운영 환경을 제공한다. 학습, 배포, 운영, 모니터링 전 과정을 통합 관리하며, 기존 클라우드 및 AI 플랫폼 운영 경험을 토대로 한층 고도화된 LLMOps 기반 체계를 구축할 예정이다. 특히 생성형 AI에서 발생할 수 있는 편향성·환각·불안정성 문제를 검출·교정·설명 가능한 기능을 핵심으로 삼아 사회와 국가가 신뢰할 수 있는 AI 기술로 발전시키는 데 기여할 계획이다.

또한 KIST 한경림 박사, 멜버른대 한소연 교수, 한양대 이상욱 교수, 몬드리안에이아이 홍대의 대표가 공동으로 개발 중인 ‘안전AI 페르소나 비디오봇’은 생성형 AI 활용 및 유튜브 동영상 시청 환경에서 안전성을 검증·보완하는 ‘AI 안전지키미’ 서비스로, 내년 시범서비스에 들어갈 예정이다.

홍대의 몬드리안에이아이 대표는 “AI 경쟁력은 성능을 넘어 신뢰성과 공정성 확보로 이어져야 한다”며 “자율진화형 AI Safety 플랫폼을 통해 공정하고 신뢰할 수 있는 차세대 AI 운영 환경을 마련하겠다”고 밝혔다.

이번 사업은 국내 AI 기술이 보다 책임 있게 활용될 기반을 마련하는 동시에 국제 협력의 교두보로도 작용할 전망이다. 몬드리안에이아이는 국제 기구 및 해외 정부 기관과 공동 연구를 추진하고 있으며, 최근에는 우즈베키스탄의 대형 통신사 및 국가 AI 연구소와 양해각서(MOU)를 체결해 글로벌 협력의 첫발을 내디뎠다.

몬드리안에이아이 소개

몬드리안에이아이(Mondrian AI)는 데이터 엔지니어, 데이터 과학자, 소프트웨어 전문가들로 구성된 기업으로, 다양한 산업과 정부 기관의 데이터를 효율적으로 관리하는 지능형 소프트웨어를 만든다. 효율적인 프로세스를 통해 복잡한 데이터 속에서 의미를 발견하고, 이를 효과적으로 분석 및 표현해 데이터의 가치를 극대화한다.