얼마 전, 누리소통망(SNS) 피드를 탐방하면서 독특하고 예쁜 그래픽 작업물을 발견했다.

어떤 식으로 작업했는지 궁금해져 작업 과정이 담긴 영상을 시청했는데, 뜻밖에도 해당 그래픽이 '제미나이(Gemini) AI'와 '나노 바나나(Nano banana) AI'를 활용해서 만들어진 AI 작업물이라는 사실을 알게 되었다.

그러고 보면 요즘은 생성형 AI를 활용하지 않는 분야가 거의 없는 것 같다는 생각이 든다.

SNS 뿐 아니라, 학부 내에서 광고 글을 작성하거나 디자인할 때도 모두가 너무 자연스럽게 AI를 활용하는 경우를 마주하곤 한다.

접근성이 좋아지면서 AI는 이제 대중적인 한 분야가 되었다고 봐도 과언이 아니다.

놀랐던 점은, 대학뿐 아니라 저연령층의 학생들도 아무 거리낌 없이 생성형 AI 결과물을 뚝딱 만들어낸다는 점이었다.

얼마 전 학과 상담을 다녀온 학교의 한 고등학생이 본인의 학교생활을 들려주어서 처음 알게 되었다.

그렇지 않아도 작문 과제를 하거나 문제 풀이를 할 때 생성형 AI를 활용하는 경우가 흔했는데, 학교에 태블릿 PC 보급이 이루어지면서 더 활발하게 사용하기 시작했다고 했다.

심지어는 실시간으로 AI 부정행위를 저지르는 일도 허다하게 일어난다는 소식에 경악했다.

당장 얼마 전에 대학가 AI 커닝 사건이 크게 이슈화된 적 있기 때문에, 마냥 남의 일 같지 않았다.

주변에서 이런 경우를 자주 마주하다 보니 AI 윤리 문제에 관해서도 관심을 기울이게 되는 요즘이다.

2학기에 들어서는 시점에 학교 수업 공고문으로도 AI 활용 가이드라인을 공지 받았었고, 국가사이버안보센터에서도 생성형 AI 활용 가이드라인을 공고한 적이 있어 혹시 최근에는 어떤 지침이 나왔는지 찾아보았다.

지난해 12월 23일, 교육부와 각 시도교육청에서 전국 중고등학교를 대상으로 '수행평가 시 AI 활용 관리 방안'을 마련해 발표했다고 한다.

2026년부터는 중고등학교 수행평가에서 AI를 활용할 경우, 교사가 그 범위를 구체적으로 정해주는 것은 물론 학생들 역시 AI 활용 범위와 내용을 반드시 표기해야 한다.

어떤 방식으로 지침이 정해졌는지 조금 더 구체적으로 살펴보았다.

먼저 학교와 교사는 수행평가를 시행하기 전 AI 금지 행위를 명확히 규정해야 한다.

'AI로 생성한 글이나 이미지 출처를 밝히지 않고 창작물로서 제출하는 행위는 부정행위이다'라는 공지로 학생들이 명확하게 범위를 인지할 수 있도록 해야 한다.

또한 학생들이 자료를 찾거나 결과물을 생성할 때 AI의 도움을 받았다면, 출처를 반드시 표기하도록 지도해야 한다.

학생들은 사용한 인공지능의 종류, 프롬프트 등을 출처로 제시할 수 있다.

AI 친화적인 디자인 학과에 재학하면서 나 역시 이런 형식의 출처 표기법을 자주 사용했었다.

생성형 AI는 엄밀히 말해 창작의 경계가 매우 모호한 분야 중 하나이기 때문에, 사용자의 꼼꼼한 출처 표기가 오해와 부정 활용을 줄이는 데 중요하게 작용한다.

생성형 AI가 작업물에 포함된 경우, 어떤 인공지능을 썼으며, 어떤 프롬프트를 작성했고, 프롬프트를 작성하기까지 어떤 과정을 거쳤는지 표기한 후 최종 작업물의 형태를 붙여서 오용의 위험을 줄였다.

그런데 AI 프롬프트를 입력하고 AI를 활용할 때 쉽게 간과하는 주의 사항이 있다.

바로 프롬프트 입력란에 주소, 연락처, 개인정보 등 신상에 불이익을 줄 수 있는 사항은 입력하지 않아야 한다는 점이다.

AI가 크게 대중화되면서 너도나도 생성형 AI를 사용하는 와중에, 정작 AI가 어떤 정보를 수집하고 활용하는지에 대한 경각심은 턱없이 부족한 실정이다.

그 때문에 지침에서도 학생들의 안전을 보호하고 만일의 사고를 방지하기 위해 교사, 학교 측에서 프롬프트 입력 시의 주의 사항을 지도하도록 규정했다고 한다.

AI 카메라 앱, 유명 SNS 등에서도 사용자의 사진을 무분별하게 학습해서 여러 차례 초상권, 인권 등의 문제를 일으킨 적이 있는 만큼, 사용 시 조심하는 태도가 중요하겠다.

앞으로 중고등학교에서는 AI를 금지하는 대신 공존하는 방향으로 발전할 것으로 보인다.

AI의 활용 자체를 금지하기는 어려운 상황인 만큼, 활용의 정도가 부정행위로 이어지지 않도록 규칙을 엄격하게 정했다.

특히 AI가 활용한 글을 그대로 제출하거나, AI 문제 풀이를 그대로 베껴 제출하는 방식처럼, 불공정한 평가로 이어질 수 있는 활용 방식은 금지 조항으로 기재되었다.

더불어 결과물만 제출하는 방식으로는 학생의 사고력과 AI를 구분하기 어렵기 때문에, 과정 중심의 평가로 변화한다고 밝혔다.

실시간 활동 중심의 평가를 주축으로, 수업 시간 내에 교사가 직접 학생의 활동 과정을 볼 수 있는 방안으로 보다 공정한 평가가 이루어질 예정이다.

현재 배포된 '수행평가 시 AI 활용 관리 방안'은 교육부 누리집에서 전문 확인 가능하다.

☞ 교육부 누리집 관련 보도자료 바로가기

교육부에서는 오는 2월 이내로 올바른 AI 활용 사례, 절차 등을 담은 가이드라인을 배포할 것이라고 밝혔다.

AI는 우리 삶을 너무나 간단히 윤택하게 만들어주는 도구인 만큼, 매 순간 윤리적 우려를 완전히 배제하기 힘들다.

학교 차원에서의 규제도 중요하지만, AI를 사용하는 학생들이 먼저 경각심을 가지고 올바르게 활용하기 위해 노력하는 태도가 특히 중요할 것이다.

이제 AI와 우리 삶은 떼려야 뗄 수 없는 관계에 들어섰다고 생각한다.

앞으로 AI를 일상 속에서 현명하게 사용하면서 함께 더 나은 방향으로 발전할 수 있기를 바란다.

☞ (보도자료) 교육부와 교육청이 함께 '수행평가 시, 인공지능(AI) 활용 관리 방안'을 마련하였습니다

정책기자단|한유민
ybonau@naver.com

생생하고 읽기 쉬운 기사를 작성하겠습니다.