[화담일보=박지성]
확인하라는 말 다음에 필요한 것
생성형 인공지능이 내놓은 정보를 확인하라는 요청에는 두 가지 과제가 담겨 있다. 이용자는 답변을 어떤 근거로 받아들일지 판단해야 하고, 서비스 제공자는 그 판단에 필요한 단서를 마련해야 한다. 첫 번째만 강조하면 확인은 개인의 주의력 문제가 된다. 두 번째만 강조하면 보호 장치가 있으니 믿어도 된다는 성급한 결론에 이를 수 있다. AI와 대화하는 방법을 논할 때 살펴야 할 것은 이 두 책임이 실제로 만나는 지점이다.
방송미디어통신위원회는 2026년 10월 1일 배포한 보도자료에서 그해 10~11월 사회관계망서비스 채널을 통한 정보 확인 캠페인 계획을 밝혔다. 거짓 정보 판별 게임과 범죄 악용에 대한 경각심 제고가 주요 내용이다. 국민 스스로 정보를 확인하고 의심하는 습관을 기르게 하겠다는 목적도 명시했다. 캠페인의 성과를 평가할 때는 이런 목적이 실제 행동의 변화로 이어졌는지를 살펴야 한다. 교육을 계획했다는 사실만으로 이용자의 판단 능력이 높아졌다고 평가할 수는 없다.
이용자가 의심을 품은 다음 무엇을 할 수 있어야 하는가. 출처를 찾고, 날짜를 대조하고, 문제가 있는 답변을 알리는 행동까지 이어질 수 있어야 확인 습관에도 구체적인 내용이 생긴다. 경각심을 높이는 교육과 확인을 가능하게 하는 서비스 구조를 함께 논해야 하는 이유다.
이용률은 피해율이 아니다
같은 보도자료는 방송미디어통신위원회와 정보통신정책연구원이 2026년 5월 발표한 ‘2025년 지능정보사회 이용자 패널조사’를 인용했다. 이에 따르면 생성형 인공지능 이용률은 2023년 12.3%에서 2025년 38.9%로 증가했다. 이 수치는 정보 확인 교육을 일부 이용자만의 문제로 볼 수 없다는 논의의 배경이 된다. 그러나 이용의 확대와 피해의 확대는 서로 다른 명제다.
이용률 수치만으로 거짓 정보를 접한 비율이나 범죄 피해 규모를 계산해서는 안 된다. 이용자가 어떤 목적으로 서비스를 썼는지, 결과를 얼마나 신뢰했는지, 확인 후 잘못을 바로잡았는지도 이 숫자만으로는 알 수 없다. 이용이 늘었다는 근거를 피해가 늘었다는 근거로 바꾸면, 거짓 정보를 경계하는 주장 자체가 부정확해진다.
캠페인이 새천년세대와 청소년을 중점 대상으로 삼았다는 점도 같은 주의가 필요하다. 발표 자료는 사회관계망서비스와 생성형 인공지능 이용률이 높은 집단이라는 점을 이유로 들었다. 이를 곧바로 특정 세대가 정보를 더 쉽게 믿는다거나 판단력이 부족하다는 평가로 옮길 근거는 없다. 교육 대상의 선정 이유와 사람에 대한 낙인은 분리해야 한다. 보호의 출발점은 이용자에게 어떤 확인 기회가 필요한지 묻는 일이어야 한다.
정답 맞히기에서 근거 찾기로
10월 발표에 담긴 교육 방식은 실제 정보와 조작된 정보를 나란히 제시하는 ‘진짜 대 가짜’ 판별 퀴즈였다. 카드뉴스와 짧은 영상으로 순차 공개하겠다는 계획이다. 11월에는 자신의 정보 확인 방법을 소개하는 ‘확인템 장착 챌린지’도 진행하겠다고 밝혔다. 두 형식은 교육의 초점을 달리 잡을 수 있다. 전자는 판단 결과를 묻고, 후자는 판단에 이르는 방법을 드러낼 기회를 제공한다.
정답을 맞혔더라도 이유가 단지 그럴듯해 보였기 때문이라면 다음 정보에서도 같은 판단을 기대하기 어렵다. 교육은 어디가 수상한지를 찾는 데서 한 걸음 더 나아가야 한다. 누가 발표했는지, 어느 시점의 내용인지, 제시된 근거가 실제 주장과 연결되는지 설명하게 할 필요가 있다. 정답 여부와 함께 판단의 근거를 설명할 수 있는지를 교육의 평가 기준으로 삼을 만하다.
AI와의 대화에서도 답변을 받은 뒤 근거를 요청하는 단계와 그 근거를 직접 대조하는 단계를 구별해야 한다. 출처의 이름을 제시받았다는 것만으로 확인이 끝나지는 않는다. 원문이 해당 내용을 말하는지, 과거의 계획을 현재의 성과처럼 옮기지는 않았는지 살펴야 한다. 모든 문장을 같은 강도로 검증할 필요는 없겠지만, 타인의 권리나 중요한 결정에 영향을 주는 주장에는 더 분명한 근거를 요구하는 것이 타당하다.
표시는 판단의 시작이다
이용자의 확인 책임과 나란히 살펴볼 것은 2025년 2월 28일 방송통신위원회가 발표한 생성형 인공지능 서비스 이용자 보호 가이드라인의 방향이다. 당시 발표는 개발사와 서비스 제공자를 대상으로 네 가지 기본원칙과 여섯 가지 실행 방식을 제시하고, 시행 시점을 그해 3월 28일로 안내했다.
보도자료에 소개된 실행 방식에는 산출물이 인공지능으로 생성됐음을 고지하고 결정 과정에 관한 정보를 제공하려는 노력이 포함됐다. 이는 이용자의 판단을 돕는 출발점으로 읽을 수 있다. 다만 생성 사실의 표시와 내용의 진실성은 다른 문제다. 생성형 인공지능을 사용했다는 표시가 붙었다고 해서 그 정보가 모두 거짓인 것은 아니며, 표시 자체가 개별 주장의 정확성을 입증하지도 않는다.
따라서 서비스 설계를 논할 때에는 표시의 유무를 넘어 어떤 설명이 판단에 도움이 되는지 물어야 한다. 사실 주장과 의견, 근거가 있는 설명과 추가 확인이 필요한 대목을 이용자가 구별할 수 있게 하는 방식을 검토할 만하다. 반대로 설명이 길기만 하고 핵심을 찾기 어렵다면 이용자의 부담이 줄었다고 보기 어렵다. 정보 제공의 양과 이해 가능성은 별도로 평가해야 한다. 보호 설계의 목표는 안내문을 더하는 데서 끝나지 않고 필요한 판단을 가능하게 하는 데 있어야 한다.
신고를 보호 설계로 연결하려면
2025년 발표에 소개된 이용자 인격권 보호 방식에는 침해 요소를 발견하고 통제하는 알고리즘 구축 노력, 산출물 관리 책임의 인지, 내부 점검 체계와 이용자 신고 절차 마련이 들어 있다. 문제 해결을 위한 책임과 참여 항목에는 서비스 제공자와 이용자의 책임 범위를 정의하고 이를 명확히 알리는 방안도 포함됐다. 당시 자료는 개인의 주의뿐 아니라 사업자의 관리 구조를 함께 다뤘다.
이 내용을 오늘의 설계 논의에 연결한다면 신고를 접수하는 기능과 신고를 통해 문제를 줄이는 과정은 나누어 살펴야 한다. 이용자가 문제를 알릴 수 있는지, 어떤 내용을 전달해야 하는지, 접수 뒤 무엇을 기대할 수 있는지 이해할 수 있어야 한다. 특히 신고 과정에서 문제가 된 내용을 불필요하게 다시 퍼뜨리도록 요구해서는 안 된다. 피해자의 신원이나 인격권을 침해하는 자료가 포함될 수 있다는 점을 고려한 절차가 필요하다.
물론 신고가 들어왔다는 이유만으로 해당 내용을 거짓이나 위법으로 단정하는 것도 경계해야 한다. 오류를 알릴 통로와 판단의 근거를 살필 절차가 함께 있어야 한다. 차별·편향 방지 장치 역시 그 작동을 점검할 필요가 있다. 신고와 통제는 필요하되 잘못된 판단을 바로잡을 여지도 설계 논의에 포함해야 한다.
확인을 위해 더 내주어서는 안 된다
2025년 보도자료는 입력데이터의 수집과 학습 활용에 대한 사전 동의 절차, 기업 내 관련 책임자의 선정과 관리도 실행 방식으로 제시했다. 이 대목은 거짓 정보를 확인하는 문제와 별개로 보일 수 있다. 그러나 이용자가 의심스러운 자료를 서비스에 넣어 분석을 요청하는 상황을 생각하면 두 문제는 연결된다. 확인을 시도하는 과정에서 어떤 정보를 추가로 제공하는지도 함께 판단해야 하기 때문이다.
가령 타인의 개인정보가 담긴 문서를 검토하려는 경우라면, 질문에 꼭 필요한 정보의 범위를 먼저 좁히는 접근이 바람직하다. 확인의 필요성이 자료 전체를 입력해도 된다는 근거가 되지는 않는다. 서비스 제공자는 수집과 활용에 관한 설명을 이용자가 이해할 수 있도록 제시해야 한다. 이용자도 자신이 제공하려는 내용에 타인의 권리가 걸려 있는지 살펴야 한다.
여기에도 부담을 한쪽으로 넘기지 않는 관점이 필요하다. 동의 절차가 있다는 이유만으로 데이터 관리에 관한 모든 책임을 이용자의 선택으로 돌리는 것은 타당하지 않다. 반대로 사업자가 보호 방안을 마련해야 한다는 이유로 입력하는 사람의 판단이 사라지는 것도 아니다. 확인 교육에는 무엇을 믿을지뿐 아니라 무엇을 제공할지에 대한 숙고도 들어가야 한다. 진위를 판별하는 능력과 권리를 존중하는 태도는 함께 길러야 한다.
경계심과 신뢰 사이의 책임
개인의 확인 습관을 강조하는 데에는 설득력이 있다. 이용자는 정보를 다른 사람에게 전달하거나 행동의 근거로 삼기 전에 자신의 판단을 거쳐야 한다. 서비스의 보호 장치만으로 모든 상황을 해결할 수 있다고 기대해서도 안 된다. 그렇지만 서비스 내 설명과 신고 경로를 마련하는 사업자의 역할을 빼놓은 채 이용자의 주의만으로 충분하다고 말하는 것 역시 책임의 구조를 지나치게 단순화한다.
정부의 역할도 캠페인을 알리는 것과 그 효과를 평가하는 것으로 구분할 필요가 있다. 2026년 발표에는 거짓 정보 판별 점검표와 불법합성물 관련 유의사항을 담은 카드뉴스 배포 계획도 포함됐다. 앞으로 이런 활동을 평가한다면 참여 규모에 더해 이용자가 확인 근거를 설명할 수 있게 됐는지, 사업자의 보호 절차를 이해하는 데 도움이 됐는지를 살필 만하다.
AI와의 대화에서 신뢰는 의심을 없애라는 주문으로 만들어지지 않는다. 이용자는 판단의 근거를 요구하고, 사업자는 그 요구에 응답할 수 있는 구조를 마련하며, 공공기관은 발표한 활동과 확인된 결과를 구별해 설명해야 한다. 거짓 정보를 가려내는 책임을 나눈다는 것은 누가 무엇을 설명하고 고쳐야 하는지 더 선명하게 정하는 일이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
