총괄과제B

[총괄과제B] 초고신뢰 차세대 인공지능 기술

[연구목표]

● 인간의 범용인공지능(Artificial General Intelligence) 공존을 위한 총 4개의 인공지능 기술적 과제(설명 가능성, 공정성, 범용성, 상호작용성)를 정의하고 이를 바탕으로 신뢰성 및 투명성을 확보할 수 있는 인공지능 기술 개발

● 이를 위해 편향성을 탐지하고 완화하는 거대언어모델, 뛰어난 확장성과 적응성을 갖춘 멀티모달 인공지능, 인간-에이전트 상호작용을 위한 생성형 인공지능, 설명가능한 Whitebox 인공지능 기술을 개발하고, 인공지능의 안전성과 효용성을 높이는 해결책을 제시

[연구내용]

1. 공정한 차세대 인공지능 및 프라이버시 보호 기술

- 문화·언어적 편향성 측정을 위한 벤치마크 및 편향 완화 기술 개발

- 편향 평가 지표 및 시각화 도구 설계, 프롬프트 조정 기반 편향 완화 전략 고도화

2. 인간 및 환경과 상호작용하는 차세대 멀티모달 생성형 인공지능 기술

- 비정합 멀티모달 환경에서의 topology-aware 정렬 기술 및 프라이버시 보안 강화 기술 개발

- 사용자 정서 기반 멀티모달 표현 해석 및 생성 응답 제어 기술 개발

3. 설명가능한 차세대 멀티모달 인공지능 개술

- 설명가능한 White-box 멀티모달 모델 개발

- 세계 멀티모달 데이터 기반 설명 가능한 모델 검증 및 고도화

[참여연구원]

중점테마연구소