[생성형 AI 윤리가이드]

최근 AI 기술의 범람 속에서 그 악용에 대한 우려가 높아지고 있습니다. 특히 허위조작정보를 생성하는 AI가 사회적으로 큰 문제를 일으키고 있는데요. 딥페이크 영상이 그 대표적 예라고 할 수 있죠. 이 외에도 생성형 AI를 사용해 사람의 목소리를 그대로 흉내내는 것 뿐만 아니라 실제 대화가 가능하도록 조작하는 기술이 보이스 피싱에 악용되는 사례도 있습니다.

이미지나 영상, 음성 등을 생성형 AI로 만들 경우 매우 정교하기 때문에 보통 사람은 진위를 구별하기 어렵습니다. 조금이라도 의심스러운 부분이 있다면 더블 체크해야 하고, 출처가 불분명한 온라인상의 콘텐츠에 비판적 시각을 가져야 합니다!

생성형 AI를 올바르게 사용하기 위해 필요한 윤리 가이드 그 여섯 번째, 이번 시간은 허위조작정보에 대해 자세히 알아보아요!

Q1. 재미로 가짜 뉴스를 만들어 배포했어요. 피해를 줄 목적이 아니었는데 처벌받나요? (O)

가짜 뉴스가 단순히 하나의 창작물로 배포되는 것이 아니라 진짜 뉴스처럼 배포되고, 누군가에게 피해를 줄 목적이 없었다고 할지라도 해당 뉴스로 인해 직접적인 손해를 입은 사람이 존재한다면 이러한 손해에 대해서는 민사상 손해배상 책임을 부담할 수 있습니다.
때로는 특별법에 따라 처벌을 받을 수도 있어요.
나아가 가짜 뉴스를 제작하는 과정에서 실존 인물의 사진이나 영상을 이용했다면 해당 인물의 초상권을 침해할 여지도 있어요.
초상권 역시 당사자로부터 그 이용을 위한 허락을 받지 않았다면 초상권 침해에 따른 민사상 손해배상 책임을 부담할 수 있다는 점을 유념해야 합니다.

Q2. 온라인에서 생성형 AI로 만든 허위 조작 정보 콘텐츠를 발견했는데 신고할 곳이 있나요? (O)

· 한국언론진흥재단
<가짜 뉴스 피해 신고·상담 센터>
- 피해상담 (언론중재위원회)
- 인터넷 피해 구조 신고
- 민·형사상 대응을 위한 법률 지식 및 절차 안내

· 한국인터넷자율정책기구
<가짜 뉴스 신고센터>
- 언론사를 사칭한 허위 게시물 신고
- 허위 게시물 자체 심의

누구나 고발할 수 있어요!

허위정보 콘텐츠가 누군가의 명예를 훼손하는 내용을 담은 경우에는 피해 당사자가 아니더라도 콘텐츠를 제작 유포하는 이들을 수사기관에 ‘고발’할 수 있습니다
▶ 한국언론진흥재단 가짜 뉴스 피해 신고·상담 방법
· 전화 : 02-2001-7205~8
· 이메일 : damagerelief@kpf.or.kr
※ 누리집 또는 직접 방문 상담 가능

생성형 AI를 활용한 허위조작 정보에 속지 않도록 각별한 주의를 기울여 주세요!