35% "거짓 정보에 속은 적 있다"
검증없이 자기 것인 양 받아들여
47% "빅테크 기업 도덕성 불신"
정부·교육기관 협력필요성 대두
검증없이 자기 것인 양 받아들여
47% "빅테크 기업 도덕성 불신"
정부·교육기관 협력필요성 대두
생성형 인공지능(AI)이 만들어낸 가짜 콘텐츠가 빠르게 확산되면서 전 세계 청소년들이 허위 정보에 쉽게 노출되고 있다. AI가 생성한 이미지, 영상, 텍스트가 사실처럼 유포되면서 청소년 10명 중 3명 이상이 허위 정보에 속은 경험이 있는 것으로 나타났다. 문제는 AI가 제공하는 정보를 무비판적으로 받아들이면서 사실 확인 과정이 생략되는 경우가 늘고 있다는 점이다. AI 활용이 증가하는 만큼 청소년들이 올바른 정보를 판별할 수 있는 '미디어 리터러시' 역량을 갖추는 것이 점점 더 중요해지고 있다.
미국 비영리 단체 커먼 센스 미디어(Common Sense Media)의 최근 보고서에 따르면 청소년의 35%가 온라인에서 가짜 콘텐츠에 속은 경험이 있는 것으로 나타났다. 보고서는 지난해 미국 내 13~18세 청소년 1045명을 대상으로 진행된 설문조사 결과를 바탕으로 작성됐다.
응답자의 41%는 실제 사진이나 영상이지만 맥락이 왜곡된 콘텐츠를 접한 적이 있다고 답했다. 또 22%는 자신이 공유한 정보가 허위라는 사실을 나중에 알게 됐다. AI 기술이 발전하면서 사실과 허구의 경계가 모호해지고 이를 검증하는 과정 없이 그대로 받아들이는 사례가 늘어나고 있는 것이다.
보고서는 "생성형 AI의 발전으로 허위 콘텐츠 생산이 쉬워졌고 가짜 정보가 빠르게 확산될 위험이 높아졌다"고 지적했다.
실제로 이 같은 현상은 AI 활용이 늘어나는 교육 현장에서도 감지되고 있다. 교사로 일하고 있는 A씨는 최근 학생들이 AI를 활용해 독후감을 작성하는 사례를 경험했다. 그는 "반 학생 하나가 독후감 과제로 AI가 작성해 준 내용을 그대로 제출했는데 책에는 없는 등장인물이나 구절이 포함돼 있었다"며 "최근 들어 과제에 AI를 활용하는 학생들이 늘면서, AI가 제공한 정보를 검증 없이 받아들이고 그대로 자신이 작성한 과제인 것처럼 제출하는 사례가 증가하고 있다"고 우려했다.
AI가 잘못된 정보를 생성하는 대표적인 원인으로 '할루시네이션(환각)' 현상이 꼽힌다. 이는 AI가 실제로 존재하지 않거나 사실이 아닌 정보를 마치 진짜인 것처럼 만들어내는 현상을 뜻한다. 생성형 AI는 기존의 컴퓨터나 데이터베이스처럼 정보를 원본 그대로 저장하는 방식이 아니라 단어와 단어, 정보와 정보 간의 연관성을 분석해 저장하는 방식으로 작동한다. 사용자가 질문하면 AI는 핵심 주제어를 선별한 뒤 관련성이 높은 단어를 하나씩 추가하며 문장을 생성한다. 이 과정에서 AI는 정확성보다 그럴듯한 문장을 만드는 데 초점을 맞추는 경향이 있다. 사실 여부를 검증하는 것이 아니라, 겉으로 보기에는 논리적으로 타당해 보이는 답변을 생성하는 방식으로 작동하기 때문에 결과적으로 실제와 다른 내용이 사실처럼 전달될 수 있다.
AI가 만들어낸 허위 정보는 단순한 검색 결과나 콘텐츠 소비에서 끝나지 않고 청소년들의 정보 신뢰도와 커뮤니케이션 방식에도 직접적인 영향을 미치고 있다. 보고서에 따르면 AI 생성 콘텐츠를 접한 후 청소년의 72%가 온라인 정보를 평가하는 방식을 바꿨다고 응답했다. 허위 정보에 속은 경험이 있는 청소년들은 이후 접하는 모든 정보를 더욱 신중하게 바라보는 경향을 보였지만 반대로 일부 청소년들은 온라인에서 접하는 모든 정보를 의심하며 신뢰 자체를 잃어가는 모습도 나타났다.
또 조사 대상 청소년의 28%는 '챗봇과 대화 시 대화 상대가 사람인지 AI 챗봇인지 헷갈린 적이 있다'고 응답했다. AI 기술이 점점 더 일상적인 대화 속으로 스며들면서 청소년들이 자신도 모르는 사이 AI와 상호작용을 하는 빈도가 증가하고 있는 것이다.
이런 상황이 지속되자 청소년들 사이에서는 AI 기술을 개발·운영하는 빅테크에 대한 신뢰도도 낮아지는 모양새다. 빅테크들의 AI 기술이 빠르게 발전하면서도 기업들이 허위 정보 확산을 방지하는 데 충분한 조치를 취하지 않는다는 불신이 반영된 결과다. 청소년의 47%는 빅테크 기업이 AI를 책임감 있게 활용할 것이라 믿지 않는다고 답했고 64%는 빅테크 기업이 청소년의 정신 건강과 안전보다 이익을 우선시할 것이라고 응답했다.
이에 AI 생성 콘텐츠의 범람 속에서 이를 무조건 신뢰하지 않고 비판적으로 검토하는 태도를 갖추는 것이 점점 더 중요해질 것으로 전망된다.
보고서는 "AI 기반 플랫폼이 개인정보 보호 기능을 강화하고 AI 생성 콘텐츠임을 명확히 표시하는 조치를 취해야 한다. AI로 인해 디지털 정보 환경이 급변하는 만큼 청소년 보호를 위한 다각적인 대응이 필요하다"며 "정부·교육기관·기업이 협력해 허위 정보 확산을 방지할 수 있는 정책과 기술적 지원을 강화해야 한다"고 강조했다.
유진아기자 gnyu4@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
