AI에 대한 과도한 자신감… 뉴질랜드인들 ‘AI 함정’에 빠진다

 

 

 

AI에 대한 과도한 자신감… 뉴질랜드인들 ‘AI 함정’에 빠진다

 

 

'뉴질랜드인 66% “AI 가짜 구별 가능”… ‘AI 자신감 함정’ 경고'

 

 

새로운 연구 결과에 따르면 많은 뉴질랜드인들은 AI가 생성한 가짜 콘텐츠를 식별할 수 있다고 자신하고 있지만, 실제 온라인 행동을 보면 이러한 자신감이 뒷받침되지 않을 수 있는 것으로 나타났다.

사이버 보안 기업 아바스트(Avast)의 ‘2026 안전한 기술 보고서(2026 Safe Tech Report)’에 따르면 뉴질랜드 성인의 66%는 AI가 만든 가짜 콘텐츠를 알아볼 수 있을 것이라고 생각하는 것으로 조사됐다.

그러나 동시에 40%는 민감한 정보를 AI 도구에 공유했거나 공유하는 것을 고려한 적이 있다고 인정했다. 이 가운데 21%는 이력서(CV)를, 또 다른 21%는 업무 관련 문서를 공유했거나 공유를 고려한 것으로 나타났다.

보고서는 이러한 현상을 ‘AI 자신감 함정(AI confidence trap)’이라고 설명했다.

또한 사람들은 신속하게 행동하도록 압박하는 상황이나 지나치게 좋아서 사실이라고 믿기 어려운 제안 등 전형적인 사기 수법의 경고 신호를 알고 있을 수 있지만, 정작 그러한 경고 신호를 스스로 무시하고 넘어갈 수 있다고 지적했다.

그렇다면 AI 시대를 맞아 우리의 온라인 보안 의식은 실제로 어느 수준까지 와 있는 것일까?

아바스트의 스티븐 코(Stephen Kho)는 ‘나인 투 눈(Nine to Noon)’과의 인터뷰에서 사람들이 AI가 가짜 콘텐츠를 만들어낼 수 있다는 사실을 알고 있음에도 불구하고 ‘AI 자신감 함정’이 발생하고 있다고 말했다.

그는 “하지만 AI가 워낙 편리하기 때문에 우리는 이러한 AI 도구를 사용하게 됩니다. 특히 미국이나 중국 등 해외에서 주로 운영되는 공개형 AI 도구에 민감한 데이터를 업로드하고 있습니다”라고 말했다.

이어 “의료 기록이나 금융 기록까지도 업로드하고 있습니다. AI가 계획을 세우고, 정보를 파악하고, 진단하는 데 매우 유용하기 때문입니다”라고 설명했다.

스티븐 코(Stephen Kho)는 이와 같은 문서를 AI에 업로드하는 것은 인터넷에 문서를 올리는 것과 매우 유사하며, 해당 정보가 AI 모델을 학습시키는 데 사용될 수도 있다고 말했다.

그는 사람들이 AI에 정보를 제공할 때 매우 신중해야 하며, 가능한 한 공유하는 정보를 줄여야 한다고 강조했다.

그는 “사실 이러한 모든 도구의 세부 이용약관을 살펴보면, 여러분이 제공하는 정보가 사용될 수 있고 결국에는 해당 기업들이 소유하게 될 수도 있다는 내용이 담겨 있을 것”이라고 말했다.

스티븐 코(Stephen Kho)는 사람들이 금융정보와 같은 내용을 AI와 공유하고 싶다면, 먼저 모든 사적 또는 개인 정보를 삭제해 익명화함으로써 해당 정보가 본인에게 다시 추적될 수 없도록 해야 한다고 조언했다.

그는 “누군가가 길거리에서 만난 사람에게 해당 정보를 건네는 것이 불안하다면, AI 챗봇에게도 그렇게 해서는 안 된다는 것이 기본적인 생각”이라고 말했다.

이어 “AI는 여러분의 비밀을 지켜주는 사람이 아니며, 비밀을 공유하는 동반자도 아니고, 법적 의무를 지닌 개인 전문가도 아닙니다. 실제로는 인터넷에 존재하는 AI 봇일 뿐입니다”라고 말했다.

스티븐 코(Stephen Kho)는 AI 플랫폼의 보안 설정이 제대로 구성되지 않을 경우 정보가 공개적으로 접근 가능한 해킹 데이터에 유출될 수 있으며, 이러한 데이터가 인터넷에서 거래되고 사기에 악용될 가능성이 있다고 밝혔다.

 

AI 도구로 인해 더욱 어려워진 사기 식별

 

스티븐 코(Stephen Kho)는 AI 기술이 영상이나 음성을 포함한 딥페이크를 가능하게 만들었다고 말했다.

그는 “최근 매우 심각한 해킹 사례가 있었습니다. 한 사람이 한밤중에 전화를 받았는데, 당시 회사의 송금을 막 처리한 직후였습니다. 이후 CEO와 CIO가 참여한 회의 전화, 즉 줌(Zoom) 화상회의에 연결됐습니다”라고 말했다.

회의에서는 비밀리에 진행되는 마지막 순간의 거래라며, 비밀 인수·합병을 위한 계좌로 2,000만 달러를 송금해야 한다고 지시했다.

“모든 면에서 그는 그 이사회 회의와 줌 통화에 참석한 사람들이 자신이 알고 있는 사람들이라고 인식했습니다. 그래서 그는 지시받은 대로 송금했습니다. 하지만 나중에 그것이 CIO와 CEO의 모습을 매우 정교하게 조작한 가짜 영상이었다는 사실이 밝혀졌습니다. 그들이 이 돈을 송금하라고 요청했던 것입니다.”

스티븐 코(Stephen Kho)는 과거에는 가짜 문자메시지나 페이스북 메시지, 이메일 등을 비교적 쉽게 식별할 수 있었다고 말했다. 이러한 메시지에는 철자나 문법이 잘못된 경우가 많았고, 내용의 맥락 역시 맞지 않는 경우가 많았기 때문이다.

그러나 이제는 상황이 달라졌다고 그는 말했다.

“요즘에는 그런 특징들이 모두 사라졌습니다. 품질과 속도, 그리고 여러분이 좋아하는 상점을 그대로 모방한 가짜 웹사이트가 얼마나 실제처럼 만들어졌는지를 보면, 이제는 모두 너무나 진짜 같아서 가짜를 식별하기가 정말, 정말 어려워졌습니다.”

그는 AI로 인해 이러한 사기를 만들어내는 속도가 빨라졌으며, 동시에 사기 수법 자체도 훨씬 더 그럴듯해졌다고 말했다.

 

 

 

 

 

 

 

뉴질랜드 부동산/경제 전문 온라인 플랫폼

프로퍼티저널  /  The Property Journal

 

 

안녕하세요, 뉴질랜드 한국 교민 최초 "부동산/경제 전문 웹사이트" 프로퍼티저널입니다.

 

프로퍼티저널은 뉴질랜드 2005년에 첫 신문 창간 이후 많은 신문 구독자와 저희 홈페이지의 방문자로 꾸준히 성장해 온 뉴질랜드 부동산/경제 전문지로 한국 교민 신문사 및 온라인 플랫폼입니다. 2023년 3월부터 저희 오프라인 신문은 발행하지 않으며 온라인으로 전환해 뉴질랜드 부동산/경제 전문 온라인 플랫폼으로 전환 되었습니다.

 

저희 프로퍼티저널은 뉴질랜드의 부동산과 경제 관련 최신 뉴스와 각 업종 분야의 전문가 컬럼으로 구성된 웹사이트입니다.

최신 뉴질랜드 뉴스와 소식을 빠르게 그리고 정확하게 접하실 수 있습니다. 또한 저희 대부분의 광고주분들은 오랜 경험과 노하우로 부동산 매매를 해오신 부동산 매매 전문가(에이젼트)들이시며, 매주 최신 뉴질랜드 부동산 매물이 업데이트 됩니다.

 

뉴질랜드로 유학이나 이민, 이주 계획이 있으신 분들은 정착 시 많은 도움이 될 만한 정보들이 있으니 이민 정착 시 여러 정보들을 통해 집 구매 혹은 이민, 비자 관련 정보를 얻어 가시기 바랍니다. 혹시라도 저희 부동산 웹사이트에 광고 계획이 있으시면, 이메일( web@propertyjournal.co.nz )로 문의 주시거나 웹사이트에 방문해서 문의해 주시면 감사하겠습니다.

www.propertyjournal.net

 

 

🏠 금주 뉴질랜드 부동산 뉴스
https://www.propertyjournal.net/category/news/propertynews/


🏢 금주 뉴질랜드 경제ㆍ사회 뉴스
https://www.propertyjournal.net/category/news/worldnews/nz-경제-사회-뉴스/


🏫 뉴질랜드 법률ㆍ회계ㆍ부동산 전문가 컬럼
https://www.propertyjournal.net/category/column/nz-법률-회계-컬럼/


📢 금주 최신매물ㆍ 🏠 New Listings
https://www.propertyjournal.net/property-search/?

 

 

앞으로 많은 방문과 구독 부탁드립니다.

감사합니다.

The Property Journal

웹사이트 :   www.propertyjournal.net 

문의 메일:  web@propertyjournal.co.nz

 

 

 

 

 

#태그:

#뉴질랜드 #뉴질랜드뉴스 #뉴질랜드정보 #뉴질랜드여행 #뉴질랜드부동산 #뉴질랜드경제 #뉴질랜드주택 #뉴질랜드주택시장 #뉴질랜드부동산시장 #뉴질랜드렌트 #뉴질랜드임대 #뉴질랜드학교 #뉴질랜드대학 #뉴질랜드집 #뉴질랜드집값 #오클랜드집값 #뉴질랜드이민 #뉴질랜드유학 #뉴질랜드워홀 #뉴질랜드교육 #프로퍼티저널