안전한 AI서비스 제공
1. 개요
- 챗GPT 출시 이후 국민 일상의 많은 영역에서 인공지능 서비스의 활용이 확산됨에 따라, AI서비스를 안전하게 이용할 수 있는 정부 정책 마련이 필요함
2. 현황 및 필요성
- 언론 등에서 AI의 부작용으로 인한 인간의 생명‧안전, 정신적‧재산적 피해 사례가 다수 보도되고 있음
▪ 벨기에 30대 남성이 인공지능(AI) 챗봇의 부추김을 받아 자살한 사례(‘23.3.28. LaLibre)
▪ 인공지능 생성 조작 사진으로 인한 일시적 미 증시 하락(’23.5월)
▪ 중국에서 딥페이크 기술로 친구 얼굴과 음성을 생성해 돈을 송금 하도록 한 사기 발생(‘23.5월)
- 인공지능서비스는 환각, 비윤리성, 권리침해, 범죄 악용 등과 같은 부작용 및 오‧남용이 발생 가능하기 때문에 인공지능 서비스에 대한 이용자 보호 체계 마련이 선제적으로 필요함
※ 통신서비스에 대한 이용자 보호는 방송통신위원회 소관
3. 제안 내용
- AI 서비스의 부작용 및 오남용을 방지하고, AI의 잠재적 위험성으로부터 이용자를 보호하기 위한 점검·평가 체계 마련
· 텍스트, 이미지, 동영상, 음성 등 생성형AI의 위험성을 사전에 파악하고, 위험을 최소화 하기 위한 테스트 및 평가 체계 마련
※ 방송통신위원회가 진행하고 있는 ‘전기통신사업자 이용자 보호업무 평가’ 참고
· 생성형AI 이용자가 AI서비스의 위험요소를 발견할 경우, 직접 신고할 수 있는 플랫폼을 운영하고 신고 사항을 정부가 검증, 위험요소로 판단될 경우 AI기업에 개선을 유도
※ 방송통신위원회의 ‘플로팅 광고 신고센터’ 참고
· 활성화되고 있는 AI챗봇 상담 서비스의 적정성, 취약계층 이용 편의성, 대체상담 제공 여부 등을 점검하여 미흡한 사항을 기업에 알려 자율개선 유도
- 올바르고 안전한 AI 활용법 확산을 위한 대국민 홍보
· AI에 대한 막연한 불안감 및 우려를 해소하고 AI를 안전하고 올바르게 사용할 수 있는 방안을 콘텐츠로 제작 및 배포
※ 동영상, 웹툰, 책자, 브로셔 등 다양한 콘텐츠로 제작
4. 기대 효과
- AI의 위험과 부작용으로부터 국민을 안전하게 보호 및 피해 예방
- AI의 올바른 사용법과 효용성을 널리 알림으로써, 인공지능을 실생활에서 경제생활의 보조도구로써 유용하게 활용할 수 있게 되어 국민 생산성을 향상시키고, 인공지능 산업의 건전한 발전에 기여
2024-04-26
이 누리집은 대한민국 공식 전자정부 누리집 입니다
