생성형 AI와 글쓰기 사이에서 교사는 무엇을 해야 할까

글쓰기 수행평가와 생성형 AI

심화국어를 듣는 우리 학교 3학년 아이들과 <소설 연계 탐구 보고서 작성하기> 수행평가를 진행하면서, ‘챗GPT와 같은 생성형 AI를 교실에서 사용하는 것이 옳은가?’라는 고민을 수도 없이 했다. <소설 연계 탐구 보고서 작성하기>는 같은 학교에 근무 중인 조나경 선생님께서 진행하셨던 수행평가로, 소설을 읽고 소설에서 드러나는 사회 문제를 파악한 뒤, 해당 사회 문제의 원인 - 결과 - 해결방안을 다루는 한 편의 보고서를 작성하는 활동이었다. 성해나 작가의 <빛을 걷으면 빛>이라는 소설집은 시의성 있는 사회 문제를 다루었으며, 학생들이 어려움 없이 읽어낼 수 있는 수준으로 쓰여 있어 전반적인 활동이 순조롭게 이루어졌다. 책을 읽은 뒤 소설에 나타난 사회 문제를 찾고, 그것의 원인 - 결과 - 해결방안에 대한 자신의 생각과 근거를 마련하여 온라인으로 자료를 찾는 과정에 대한 평가는 원활히 이루어졌다. 문제는 그 다음이었다. 마련된 글감을 가지고 보고서를 ‘쓰는’ 단계였다.

보고서 쓰기 단계에서 작성된 한 학생의 보고서는 너무도 완벽했다. 흠잡을 틈이 없었다. 구성은 체계적이고, 논리 전개도 준수하며, 오탈자 하나 없이 깔끔한 글이었다. 문제는, 이 글은 학생의 활동 과정을 따라가면 절대 나올 수 없는 글이라는 점이었다. 소설을 완벽하게 읽었다고 보기도 어렵고, 근거자료는 찾았으나 자신의 주장과 잘 연결되지 않는 근거가 제법 있었다. 보고서 쓰기 전의 활동 과정은 '우수하다'고 평가하기 어려웠다. 그러나 보고서는 너무도 우수했고, 훌륭했다. 인상 평가일 수 있어서 최대한 배제하려고 한 사실 중 하나는, 학생이 지난 2년간 써 온 글과 비교하면 이번 보고서는 그야말로 환골탈태, 다른 사람이 쓴 것처럼 보일 정도로 이질감이 느껴진다는 점이었다.

그러니 나는 생성형 AI 사용을 의심할 수밖에 없어 학생을 교무실로 불러 물어보았으나, 학생은 한사코 부인했다. 학생이 아니라는데 방법이 있나. 어디까지나 정황 증거뿐이었다. 채점 기준에 따르면 학생의 보고서는 만점(20점)을 받기에 충분한 결과물이었다. 그래서 나는 그 보고서에 20점을 주고도 찝찝했다. 왠지 기존에 구상했던 다음 글쓰기 수행평가도, AI로 '딸깍' 만들어 낼 수 있을 것 같았다. 심란해서 잠이 잘 안 왔다.

생성형 AI가 거부할 수 없는 흐름이라면

학생들의 생성형 AI 활용은 거부할 수 없는 흐름이라고 생각한다. 도저히 통제할 방법이 없거니와, 애초에 이를 통제해야 하는 것인가에 대한 진지한 고찰도 제대로 이루어지지 않았다. 그렇다고 해서 생성형 AI를 맹신하고 학교 현장에 끼워 넣자는 말은 아니다. 그러나 분명한 것은 생성형 AI를 사용하는 역량도 학습 격차를 유발하는 요인이 되리라는 것이다. 생성형 AI를 무조건 써야 하는 건 아니지만, 잘 써서 나쁠 건 없다는 것이 요즘 학생들의 인식이다.

그렇다면 생성형 AI를 '잘 쓴다'라는 건 어떤 것일까? 인공지능의 작동 원리를 이해하고, 전문가와 같은 사용 역량을 얻는 것? 이것이 가장 주된 의미일 수는 있겠지만, 국어 교과에서 이러한 역량을 길러줄 수는 없다. 이는 정보 교과에서 할 일이지 않을까?

국어 교과에서는 학생들에게 AI를 '잘 쓴다'라는 것을, AI를 '지혜롭게 쓴다'라고 이해시켜야 한다는 생각이 들었다. 말하기, 읽기, 듣기, 쓰기, 감상하기 등 다양한 언어 사용 기능에서 AI를 '주체'가 아닌 '도구'로서 쓸 줄 알아야 할 텐데, 요즘 아이들은 마치 자아를 생성형 AI에게 의탁하고 있는 모양새다. 비판적이고 창의적인 사고력이 AI에 의해 사라지지 않게, AI를 보다 현명하고 효율적으로 사용했으면 하는 마음이 들었다.

마침 편집팀에서 ‘생성형 AI와 인공지능’이라는 키워드로 1년간 공부하고, 교실나눔이라는 행사를 기획하고 있을 무렵이었다. 편집팀에서도 비슷하게 ‘선생님들에게 생성형 AI 활용 역량을 길러주기보다는, AI 활용에 대한 거시적인 논의가 먼저 이루어지는 것이 좋지 않을까?’라는 의견이 제시되었고, 선생님들께서 학교 교육에서 AI를 활용함에 있어 일종의 가이드라인을 만들어 보시게끔 행사를 기획해 보게 되었다. 그런 흐름에 아이디어를 얻어, 나 또한 새로운 심화국어 수행평가 계획해 보았다. AI가 거부할 수 없는 흐름이라면, 그래서 사용이 불가피하다면, 한 번 우리 학교만의 'AI를 지혜롭게 사용하기 위한 사용 규칙'을 만들어 보자!

프로젝트: 우리 학교 AI 윤리 헌장 제작하기

① 오리엔테이션

수행평가를 구상하면서, 이미 만들어진 AI 사용 규칙이 있지 않을까 싶었다. 이를 참고하면 아이들에게 좋은 예시 자료가 될 것 같아서 찾아 보던 중, '국제인공지능윤리협회'라는 사단법인의 홈페이지를 찾았다. 사이트에는 '인공지능 윤리 헌장'이 게시되어 있었다. 이를 살펴 보면서 아쉬웠던 점은, '사용자'가 지켜야 할 헌장이 구체적이지 않다는 점이었다. 학생들과 함께 '사용자가 지켜야 할 헌장'을 구체화해서 만들면 좋겠다는 생각이 들었다.

그래서 아이들에게 '국제인공지능윤리협회'에서 ‘사용자’ 측면에서의 헌장 제작을 부탁하는 이메일을 보내줬다는 가상의 상황을 설정하고, 우리가 이 협회의 요청에 따라 헌장이라는 것을 만들어야 한다는 것을 안내한 뒤, 헌장이라는 것이 무엇인지를 간단히 설명해 주었다. 수행평가의 대략적 흐름을 안내하고 질문을 주고받으며 1시간을 끝냈다.

② 1차시

1~3차시는, 인공지능 윤리 헌장을 만들기 전에 학생들과 AI 사용 시 발생할 수 있는 문제점에 대한 공감대를 형성하고, 특히 생성형 AI에 대한 이해를 높이기 위한 활동이 진행되었다. 1차시에서는 내가 실제로 겪은, AI로 인해 곤란했던 경험을 각색하여 안내했다. 제시문에는 민재와 정우가 등장한다. 민재는 챗GPT가 생성해 준 글을 그대로 복사-붙여넣기 하여 제출하였고, 정우는 챗GPT가 생성해 준 글을 수정하여 제출하였다. 교사는 두 학생이 챗GPT를 사용한 것 같다는 정황을 의심만 할 뿐, 구체적 물증이 없어 답답해 하고 있다.

이런 상황에서, 아이들에게 본인이 교사라면 두 학생에게 몇 점을 줄 것인지 고민해 보는 시간을 주었다. 민재와 정우는 여러분과 같은 심화국어 수강생이며, 선생님은 실제로 어떤 점수를 줄지 고민 중이다. 여러분의 의견에 따라 이들의 점수가 바뀔 수 있다···. 이런 말을 하니 아이들이 열정적으로 참여했다. (실제로 그럴 순 없지만.)

결과는 상이했지만, 공통적으로 발견되는 지점은 "민재보다 정우에게 높은 점수를 준다" 였다. 학생들에게 물었다. 왜 그렇게 점수를 다르게 줬니? 학생들의 대답은 저마다 비슷했다. "정우는 자기가 주체적으로 글을 수정했잖아요." "정우는 글을 수정했으니까 자기 생각이 담긴 거 같아서요." "민재보다는 성의가 있어서요." "정우는 자기가 쓴 글이라고 말할 수 있을 것 같은데, 민재는 아닐 거 같아요."

공통적으로 아이들은 "자신이 쓴 글이라고 하려면, '생각'과 '성의'가 담겨야 한다"는 것에 공감했고, "챗GPT가 만든 글을 그대로 가져다 쓰는 것은 '생각'과 '성의'가 담기지 않은 행동이다"라는 공통의 합의를 도출했다.

③ 2차시

전 차시에서 도출한 합의를 구체화하는 시간이다. 두 가지의 활동을 진행했는데, 우선 첫 번째 활동으로 'AI 창작물과 인간의 창작물 구분하기'를 진행하였다. 1차시와 유사하게 상황을 제시하고, AI가 만든 창작물을 찾아보라고 했다. 여섯 편 중 세 편은 AI가, 나머지 세 편은 인간(학생)이 쓴 시다. AI를 활용하여 쓴 시는, 내가 5분만에 만들었다. 인간이 쓴 시는, 학생들이 작년 문학 시간에 만든 시집에서 세 편을 가져 온 것이다. 학생들에게 시켜보니 한 반에서 한두 명밖에 찾아내지 못했다. 그 학생들마저도 AI의 작품이라고 생각한 이유가 거창하지 않았다. "왠지 그래 보여서." "너무 잘 써서." "경험이 안 느껴져서.“

어찌 되었든 이 활동을 하며 학생들은 AI가 진짜 글을 잘 쓴다며 놀라워했다. 우리가 잘 안다고 생각하는 시에서도 이렇게 AI의 창작물을 구별하기가 힘든데, 우리가 잘 모르는 영역에서의 창작물은 도대체 어떻게 구별할 수 있을까. 이런 물음에 아이들은 그저 침묵···. 생각이 많아 보였다.

두 번째 활동으로는 '쓰기 단계에서의 AI 허용 점수 산정하기'를 진행했다. 쓰기 단계별로, 우리는 AI의 사용을 얼마나 허용할 수 있는지 생각해 보고 허용 점수를 적어 보라고 하였다. 예를 들어, '이 단계에서 AI를 잠깐이라도 쓰면 내 글이라고 할 수 없어'는 1점, '이 단계에서는 AI를 어떻게 사용하더라도 내 글이라고 인정해 줄 수 있어'는 5점이다. 점수를 주고, 각 단계에서 AI를 지혜롭게 쓰는 방법은 무엇인지도 간단히 쓰게 했다.

학생들은 '계획하기 단계'와 '작성하기 단계'에서는 AI를 덜 사용할 것을 주장했다. 사용하더라도, '아이디어 생성'을 위해 사용해야 하지, 그 이상으로 사용했을 때 만들어진 글은 '나의 글'이라고 할 수 없다는 의견이 대부분이었다. 한편 '내용 생성 및 조직하기 단계'에서는 AI를 적절히 사용해도 된다고 주장했고, '고쳐 쓰기 단계'에서는 AI를 사용하는 것이 오히려 효율적이라고 주장했다.

결과만 보면, 학생들은 이미 AI를 글쓰기 단계에서 어떻게 활용해야 하는지 이미 알고 있는 것 같다. (그런데 왜 그랬을까.) 아무튼 이 결과를 다음 차시 시작 때 함께 공유했고, 글쓰기뿐만 아니라 창작 전반에서 학생들이 제안한 각 단계별 AI 사용 방안을 함께 살펴 보았다. 학생들은 "창작물 생성 시 AI의 바람직한 활용 방안"에 대해 고민해 보는 시간을 갖게 되었다.

④ 3차시

3차시에서는 AI의 작동 원리를 이해하고, 생성형 AI 활용 시 반드시 알아야 하는 '프롬프트'의 개념을 알아 보는 활동을 진행했다. 아래 두 영상의 일부분을 발췌하여 약 10분 시청하였다. 이를 통해 "생성형 AI는 이미 만들어진 정보를 '학습'하며, 생성형 AI는 '프롬프트'라는 질문을 통해 학습된 정보를 사용자에게 알려준다"는 지식을 정리하였다. 그런데 만약, AI가 학습한 정보 자체가 오염되었거나 편향되었을 수도 있지 않을까? AI 판사, 이루다 챗봇 사건을 다룬 영상을 보며 '편향'과 '공정성'에 대한 고민을 나누었다. 두 가지 사례가 담긴 영상을 보며, 이 질문에 대해 고민해 보는 시간을 가졌다. 학생들의 학습지를 살펴보니, "비판적 사고가 중요하다"라는 결론이 도출된 것 같았다.

⑤ 4-6차시

이제 그동안 고민하고 알아낸 'AI의 지혜로운 활용 방안'에 대한 각자의 의견을 담은 AI 윤리 헌장을 만들 시간이다. 수업 시간 세 시간 동안 '서문, 본문, 성찰문' 세 가지를 쓰는 수행평가를 진행하였다. 3시간이면 넉넉하지는 않았고, 약간 빠듯하게 느껴졌다. 그래도 한 시간을 더 주기에는 조금 애매한 감이 없잖아 있어서, 그냥 하루에 한 쪽 한다고 생각하고 열심히 하라고 했다.

이렇게 해서 약 80개의 AI 윤리 헌장이 만들어졌다. 급조된 수행평가였기에 아쉬움도 많지만, 그래도 시의성 있는 유의미한 활동이지 않았나 싶다. 가장 잘 쓰인 헌장을 공유하며 글을 마무리한다.