우주과학, 법률, 심리, 의료, 재무 등 전문지식까지 알려주는 생성형 AI, 과연 그 모든 정보를 그대로 믿어도 되는 걸까요?

생성형 AI가 조력자의 역할을 할 수 있지만 부정확한 답변이나 콘텐츠를 생산할 수 있고 편향된 결론을 제시해 문제를 일으킬 수 있습니다.

생성형 AI를 올바르게 사용하기 위해 필요한 윤리 가이드 마지막! 지난 회에 이어 오남용에 대해 자세히 알아보아요!

Q1. 우주과학 연구에 관심이 많은데 생성형 AI에 질문하니 빠르게 답변해 주었어요. 이 정보를 그대로 믿어도 되나요? (X)

생성형 AI가 제시하는 답변은 데이터를 학습한 결과를 바탕으로 한 논리적 예측에 불과하므로 이를 그대로 믿지 말고 여러 관점에서 검증해 사용해야 합니다!

부정확한 데이터, 편향된 데이터로 학습된 생성형 AI는 부정확한 답변, 편향된 콘텐츠를 내놓게 될 수 밖에 없어요. 생성형 AI가 내 놓은 답변을 검증하지 않고 그대로 가져다 쓰면 편향된 결론을 제시해 연구 윤리 위반, 직업 윤리 위반 등의 심각한 문제를 일으킬 수 있어요. 또한 표절이나 저작권법 위반과 같은 학문적 진실성 및 관련 법률 위반 문제를 유발 할 수도 있습니다.

Q2. 생성형 AI가 심리, 의료, 재무 등 전문 분야에 대한 상담도 제대로 해줄까요? (X)

생성형 AI는 전문 분야에서 ‘좋은 조력자’일 수 있지만 ‘좋은 전문가’는 아니므로 각별히 주의해서 이용해야 합니다.
생성형 AI가 제시하는 답변이나 콘텐츠는 모두 학습 데이터의 산물이며 논리적 예측에 불과합니다. 생성형 AI 답변을 이용할 때에는 여러 방법으로 검증한 후 이용해 예측하지 못한 문제를 막아야 합니다.

생성형 AI는 데이터 재편집자에 불과 합니다.
생성형 AI를 100% 신뢰하기보다는 여러 방법으로 검증한 후 좋은 조력자로 활용해요.