[생성형 AI 윤리가이드]

딥페이크 영상 만큼이나 생성형 AI의 대표적인 악용사례로 꼽을 수 있는 보이스 피싱 문제
일반인들은 생성형 AI가 만든 정보가 사실인지 아닌지 진위 여부를 알기가 어렵습니다.

예방법과 대응방법을 미리 알아야 줄일 수 있는 피해 생성형 AI를 올바르게 사용하기 위해 필요한 윤리 가이드 일곱 번째, 지난 편에 이어 허위조작정보에 대해 자세히 알아보아요!

Q1. 생성형 AI를 통한 보이스피싱을 당해 돈을 송금했는데 출금 전이라면 피해 구제가 가능한가요? (O)

생성형 AI를 통한 보이스피싱 등의 사기를 당한 경우 경찰서(112), 금융감독원(1332), 입금·송금을 한 금융회사 고객센터에 신고해 피해금액이 범인에게 넘어가지 않도록 해야 합니다.
이후 사이버수사대를 방문해 사건사고 확인원 발급 후 지급정지를 신청한 금융회사 영업점에 제출하면 피해금 환급신청이 가능합니다!
주변 인물로부터 송금 등의 요청을 받은 뒤에는 다시 한 번 재확인하는 등 스스로 조심하는 것이 가장 중요하다는 사실 잊지 마세요!

Q2. 생성형 AI로 만든 정보의 진위 여부를 확인할 수 있는 방법이 있을까요? (X)

생성형 AI가 사실이 아닌 정보를 제공하는 ‘환각 현상(HaIlucination)’은 데이터와 알고리즘의 한계 때문에 단기간에 해결되기 어렵습니다.

의심스러운 내용에 대해서는 반드시 검색을 통해서 사실 확인(팩트 체크) 하는 습관을 가져야 합니다. 또한 하나의 생성형 AI만 사용하는 것이 아니라 여러 생성형 AI를 병행해 사용하는 것도 좋아요.

생성형 AI로 만들어진 이미지·영상 콘텐츠의 경우 매우 정교해서 일반인들은 진위확인이 어렵습니다. 따라서 이용자 개인의 각별한 주의가 필요하고 무엇보다 온라인 콘텐츠를 비판적으로 수용하는 태도를 가져야 합니다.

매우 정교하여 진위여부를 알기 어려운 생성형 AI
비판적으로 수용하는 태도로 위험에 상시 대비해요!