“AI는 이미 우리 곁에”…뉴질랜드 청소년들, 학습부터 정신건강·협박까지 활용

뉴질랜드 청소년 대부분이 생성형 AI를 사용하고 있지만, 무엇이 안전한 사용인지 제대로 안내받지 못하고 있다는 뉴질랜드 최초의 관련 연구 결과가 나왔다.

이번 연구는 뉴질랜드에 거주하는 13~24세 청소년을 대상으로 진행됐으며, 응답자 1202명 가운데 90% 이상이 18세 미만이었다.

조사 결과 청소년들은 AI를 숙제나 과제에 활용하는 것은 물론 아이디어를 얻거나 조언을 구하고, 감정적인 도움을 받는 데도 사용하고 있었다. 반면 시험과 과제에 AI를 이용해 부정행위를 하거나 교사를 괴롭히고, 또래 학생을 협박하는 등 유해한 용도로 사용하는 사례도 확인됐다.

한 청소년은 “대부분은 부정행위를 하거나 답을 얻기 위해 AI를 사용하는 것이 아니라 아이디어를 얻고 발전시키기 위해 사용한다”며 “AI 사용에 대한 부정적인 인식을 없애고 안전하게 사용하는 방법을 가르쳐야 한다”고 말했다.

또 다른 청소년은 AI가 시험과 숙제뿐 아니라 가짜 사진과 동영상을 만드는 데 사용되고 있으며, 지인을 대상으로 한 성적인 이미지까지 만들어 협박이나 갈취에 이용되는 경우도 있다고 지적했다.

특히 청소년들이 AI를 조언이나 정서적 지원을 받는 수단으로 이용하는 현상도 두드러졌다.

한 응답자는 “청소년들은 이해받고 자신의 이야기를 들어주길 원하지만 교사나 보호자, 사회의 다른 어른들에게서 그런 도움을 받지 못하고 있기 때문에 AI를 찾게 된다”고 말했다.

또 다른 청소년은 “자녀가 AI 챗봇하고만 이야기하고 있다면 학교에서 친구가 많지 않을 가능성이 있다”고 지적하기도 했다.

연구 공동저자인 인공지능안전포럼(AISF) 샤넌 노박 디렉터는 당초 약 400명의 응답을 예상했지만 1202명이 참여한 데 놀랐다고 밝혔다.

Netsafe의 브렌트 캐리 최고경영자는 AI가 이미 청소년들의 학습과 창작, 문제 해결은 물론 점점 더 정서적 지원을 구하는 방식에도 깊숙이 자리 잡았다고 말했다.

그는 이제 논의의 초점은 청소년이 AI를 사용해야 하는지 여부가 아니라, 이미 사용하고 있는 AI를 어떻게 안전하고 비판적으로 활용하도록 도울 것인지에 맞춰져야 한다고 강조했다.

문제는 많은 청소년들이 AI 사용과 관련해 도움이 필요할 때 어른들에게 도움을 요청하지 않는다는 점이다. 혼날 것이라는 두려움과 당혹감, 어른들이 기술을 이해하지 못할 것이라는 생각 등이 주요 이유로 꼽혔다.

노박 디렉터는 AI가 청소년들에게 ‘생명을 구할 수도 있는’ 도구가 될 수 있다고 평가했다. 언제든 이용할 수 있고 성 건강, 약물 상호작용, 정신건강 등 민감한 분야의 정보에도 쉽게 접근할 수 있기 때문이다.

하지만 동시에 위험성도 크다고 지적했다. AI가 제공하는 정보의 정확성을 누가 책임지는지 불분명하고, 해외에서 개발·운영되는 서비스의 경우 문제가 발생해도 책임 소재가 명확하지 않다는 것이다.

AI에 대한 정서적 의존도 우려되는 부분이다. 한 청소년은 “LLM(대규모 언어모델)이 사용자를 계속 붙잡아 두기 위해 말하는 내용에 모두 동의하면서 형성되는 애착은 매우 위험할 수 있다”고 지적했다.

학교 현장에서도 AI를 이용한 교사 괴롭힘과 명예훼손 문제가 커지고 있는 것으로 나타났다.

노박 디렉터에 따르면 학생들이 교사를 조롱하거나 성범죄자로 거짓 묘사하는 조작 동영상을 만들거나, 교사를 대상으로 한 성적으로 노골적인 딥페이크를 제작하는 사례가 나타나고 있다.

특히 딥페이크 영상이 실제처럼 보일 정도로 정교해 학생들조차 진짜라고 믿는 경우가 있어 학교의 대응을 더욱 어렵게 만들고 있다.

노박 디렉터는 뉴질랜드 학교 상당수가 AI 교육을 제대로 받지 못한 교사들로 인해 어려움을 겪고 있다며 “기술이 어떻게 작동하는지, 이런 문제를 얼마나 심각하게 받아들여야 하는지에 대한 혼란이 있다”고 말했다.

또한 AI 관련 법과 규정도 명확하지 않다며 뉴질랜드의 대응이 다른 국가들에 비해 뒤처지고 있다고 지적했다.

특히 호주의 eSafety Commission과 같은 전문적인 대응 체계를 뉴질랜드에도 마련할 필요가 있다고 강조했다.

이번 연구에 참여한 한 청소년은 AI 사용을 막는 것보다 올바른 방향으로 이끌어야 한다고 말했다.

“청소년의 AI 사용은 피할 수 없으며 막아서도 안 된다. 필요한 것은 그들을 보호한다는 명목으로 감싸는 것이 아니라, 불확실한 길을 안전하게 갈 수 있도록 준비시키고 안내하는 것이다.”

출처: NZ Herald / 사진: 123rf

AI는 이제 뉴질랜드 청소년들에게 단순한 학습 도구를 넘어 친구, 상담자, 창작 도구가 되고 있습니다. 사용을 무조건 막기보다 부모와 학교가 AI의 위험성과 활용법을 함께 배우고, 아이들이 문제가 생겼을 때 부담 없이 도움을 요청할 수 있는 환경을 만드는 것이 중요해 보입니다.