# [창간 37주년 특별기획] [AI 대전환, 길을 묻다 ③안전/권리] 내 정보와 주머니를 위협하는 AI

> 초지능 딥페이크 피싱부터 알고리즘 가격 차별까지…일상으로 파고든 'AI 범죄와 그늘'
> 목소리와 얼굴을 완벽히 복제하는 초지능 딥페이크 피싱의 실태와 보안 위협
> 소비자의 데이터와 심리를 악용해 가격을 다르게 매기는 '다이내믹 프라이싱'의 그늘
> 대규모 개인정보 유출과 알고리즘 통제 상실 속에서 소비자 주권을 지키기 위한 과제
> [AI 대전환, 길을 묻다 ③안전/권리]

- 매체: 수원일보 — 수원·화성·용인 경기남부 뉴스 · 1989년 창간 37년, 경기도 제1호 인터넷신문(등록번호 경기 아 00001)
- 기자: 최승호 문화에디터
- 발행: 2026-09-29T19:59:08+09:00 · 수정: 2026-09-29T19:59:08+09:00
- 섹션: 기획·연재 > 기획특집
- 원문(캐노니컬): https://www.suwonilbo.kr/news/articleView.html?idxno=L26092918553500aa
- 인용 표기: 수원일보, “[창간 37주년 특별기획] [AI 대전환, 길을 묻다 ③안전/권리] 내 정보와 주머니를 위협하는 AI”, 2026-09-29, https://www.suwonilbo.kr/news/articleView.html?idxno=L26092918553500aa

---

(사진: [서울=뉴시스] 추상철 기자 = 윤창렬 국무조정실장이 28일 오전 서울 종로구 정부서울청사에서 '보이스피싱 근절 종합대책' 합동브리핑을 하고 있다. 2025.08.28. scchoo@newsis.com)

(사진: [서울=뉴시스] 추상철 기자 = 윤창렬 국무조정실장이 28일 오전 서울 종로구 정부서울청사에서 '보이스피싱 근절 종합대책' 합동브리핑을 하고 있다. 2025.08.28. scchoo@newsis.com /추상철 / 뉴시스)

"엄마, 나 핸드폰 화면이 깨져서 급하게 수리비 보내야 해."

메신저나 수신음 너머 들려오는 자녀의 떨리는 목소리. 과거 어색한 어투의 텍스트나 조잡한 합성 사진으로 그치던 보이스피싱이 생성형 AI와 만나 ‘초지능 범죄’로 진화했다. 불과 몇 초 분량의 SNS 영상이나 음성 파일만 있으면 목소리의 억양과 호흡, 심지어 얼굴 표정까지 완벽히 재현하는 딥페이크 기술이 사기 수단의 가장 앞자리에 올라섰다.

편리함의 탈을 쓴 채 일상에 스며든 인공지능은 이제 소비자의 자산과 정보, 그리고 권리를 흔드는 가장 은밀하고 강력한 위협으로 다가오고 있다.

## **"진짜 자녀 목소리인 줄"…AI가 키운 딥페이크 피싱의 공포**

금융당국과 경찰청, 그리고 글로벌 보안 업계에 접수되는 피싱 피해 양상은 과거와 차원을 달리한다. AI 딥보이스 기술이 대중화되면서 가족이나 지인의 목소리를 그대로 복제해 금전을 요구하는 변종 사기가 급증하고 있다.

글로벌 사이버 보안 기업 맥아피(McAfee)의 최근 조사에 따르면, 전 세계 성인의 10% 이상이 AI를 활용한 음성 복제 사기를 직접 경험했거나 주변 피해를 목격한 것으로 나타났다. 해외에서는 지인의 영상 통화 화면까지 딥페이크로 정교하게 합성해 수백억 원을 갈취한 대형 사고가 발생했고, 국내에서도 부모의 불안 심리를 자극하는 초지능 딥보이스 피싱 신고가 잇따르고 있다.

과거에는 오탈자나 어색한 말투로 범죄를 의심할 수 있었지만, 이제는 AI가 대상자의 SNS 흔적을 분석해 평소 말투와 인간관계, 개인 신상 정보까지 반영한 맞춤형 시나리오를 구사하기 때문에 일반 소비자가 직관적으로 구별해 내기란 사실상 불가능에 가깝다.

## **똑같은 상품인데 나한테만 더 비싸다?…AI가 만든 '가격 차별’**

소비자들의 주머니를 은밀하게 털어가는 또 다른 주범은 AI 알고리즘을 활용한 '다이내믹 프라이싱(Dynamic Pricing·가변 가격제)'의 무분별한 확산이다.

항공권이나 숙박 예약에 주로 쓰이던 가변 가격제가 AI의 초개인화 기술과 결합하면서 이커머스, 생필품, 모빌리티 서비스 등 생활밀착형 소비 전반으로 파고들고 있다. AI는 소비자의 접속 기기, 과거 구매 이력, 장바구니 방치 시간, 심지어 실시간 위치 데이터까지 분석한다. 이렇게 분석한 구매 패턴을 토대로 '지금 당장 살 가능성이 높은 소비자'에게는 정가보다 높은 가격을 제시하고, 망설이는 소비자에게만 할인 쿠폰을 띄우는 식이다.

미국 백악관 경제자문위원회(CEA) 등 정책 당국도 최근 보고서를 통해 알고리즘을 통한 가격 차별이 소비자의 후생을 저해하고 정보 비대칭성을 심화시킨다고 경고한 바 있다. 소비자에겐 최저가 탐색의 피로를 줄여주는 듯 보이지만, 알고 보면 빅데이터 알고리즘에 속아 남들보다 더 높은 비용을 지불하게 되는 구조적 가격 차별에 노출되는 셈이다.

## **"한 번 뚫리면 수천만 명"…AI 시대, 대규모 개인정보 유출**

AI 모델이 고도화될수록 이를 학습시키고 운영하기 위해 수집되는 개인정보의 양은 폭발적으로 늘고 있다. 문제는 AI 시스템이나 대화형 서비스가 해킹당할 경우 피해 규모 역시 과거와 비할 수 없을 만큼 거대해진다는 점이다.

실제로 글로벌 시장조사기관 가트너(Gartner)는 AI 도입이 가속화될수록 프라이버시 침해와 데이터 유출 사고가 기업의 가장 치명적인 위험 요인 가운데 하나로 자리 잡을 것이라고 전망했다. 대화형 AI 검색 서비스에 기업 기밀이나 개인 금융 정보를 무심코 입력했다가 해당 데이터가 외부로 유출되거나 학습 데이터로 악용되는 보안 허점 사례도 빈번히 보고되고 있다.

인공지능 연구의 거장인 요슈아 벤지오(Yoshua Bengio) 교수는 "통제력이 결여된 AI 시스템은 보안과 윤리적 측면에서 사회 전체를 뒤흔드는 잠재적 재앙이 될 수 있다"고 지적하며 기술의 안전장치 마련을 강력히 촉구했다.

## **기술의 편리함 뒤, '소비자 주권'을 지키려면**

전문가들은 AI가 가져온 안전과 권리 침해 요소를 방치할 경우 디지털 생태계 전체의 신뢰가 무너질 수 있다고 지적한다.

기업이 AI 알고리즘을 이용해 소비자를 기만하거나 가격을 임의로 차별할 경우 이를 명확히 규제하고 투명성을 강제하는 제도적 장치 마련이 시급하다. 아울러 개인정보 보호에 대한 기업의 책임을 강화하는 동시에, 소비자 스스로도 의심스러운 음성·영상 통화는 철저히 재확인하고 개인정보 제공 동의를 신중히 검토하는 '디지털 방어력'을 갖춰야 한다.

AI가 가져온 편리함의 이면에 도사린 위험을 직시하고, 기술의 주도권을 인간이 통제하는 안전망을 구축하는 일은 더 이상 미룰 수 없는 과제다.

---
매체: 윤리강령·열린보도원칙·AI 활용 준칙 공개(https://www.suwonilbo.kr/policy.html) · 취재편집국 기자 프로필(https://www.suwonilbo.kr/reporter.html)
최신 기사: https://www.suwonilbo.kr/rss.xml · 사이트 안내: https://www.suwonilbo.kr/llms.txt · 이 기사 JSON: https://www.suwonilbo.kr/api/article?id=L26092918553500aa
모든 기사 URL은 `?format=md` 를 붙이면 이 마크다운 형식으로 제공됩니다.