대전투데이
종합뉴스과학·교육·문화
공주대 최대선 교수, AI를 속이는 공격자 AI 개발
정상범  |  3457jsb@hanmail.net
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2020.01.15  13:09:26
트위터 페이스북 미투데이 요즘 네이버 구글 msn
   
[대전투데이 공주=정상범기자] 공주대학교(총장 원성수) 최대선 교수가 얼굴에 몇 개의 점을 붙여 얼굴인식 AI가 다른 사람으로 인식하게 만드는데 성공했다.

연구팀이 개발한 공격자 AI에 얼굴 사진을 입력하면 얼굴에 붙일 점 스티커를 만들어주고, 점을 붙일 위치를 알려준다.

공격자 AI가 알려준 대로 얼굴에 점 스티커를 붙이면, 얼굴인식 AI는 전혀 다른 사람으로 인식하게 된다.

보안 분야에서는 이미지나 보이스에 약간의 변형을 가해 딥러닝 AI를 속일 수 있는 기만 공격이 가능하다고 알려져 왔으며, 기만 공격을 통해 자율 주행 자동차가 좌회전 표지판을 우회전으로 인식하게 되는 등 심각한 문제를 야기할 수 있어 AI의 보안 취약점으로 지적되고 있다.

이러한 변형 데이터를 적대적 예제(adversarial example)라고 부르며, AI를 기만하는데 사용한다.

공격자 AI가 어떻게 변형해야 하는지를 자동으로 찾아주므로 이러한 적대적 예제를 쉽게 생성할 수 있으며, 이를 방어하는 것도 어렵다고 알려져 있다.

사람 목소리에 약간의 잡음을 추가해 음성인식 AI를 속이는 기만 공격 사례도 알려져 있다.

방송에서 앵커가 말한 “A상품을 주문해라”는 음성을 명령으로 인식해 실제 상품을 주문한 아마존 AI 스피커의 사례가 있는데, 적대적 예제를 적용할 경우 “안녕하십니까”라는 말을 듣고도 상품을 주문할 수 있다.

이번 공주대 연구는 이미지 상태가 아닌 실제 얼굴에 약간의 분장을 통해 얼굴인식 AI를 기만할 수 있다는 것을 보여준 세계 최초 연구로, AI 적용 분야가 확대되어 가는 가운데 AI 보안 취약점이 큰 문제를 야기할 수 있는 사례이다.

해외에서는 표지판에 스티커를 붙여 오인식하게 만드는 연구가 소개된 바 있으나, 얼굴 분장을 통한 얼굴인식 AI를 기만하는 사례는 이번 공주대 연구가 최초이다.

연구팀을 이끈 최대선 교수는 “이러한 기만 공격 이외에도 AI의 오동작을 유발하거나, 학습에 사용된 데이터를 추출해 프라이버시를 침해하는 등 여러 가지 AI 보안 취약점이 알려져 있다”며 “최근 AI에 대한 국가적 관심과 산업계의 적용이 활발한 가운데 AI 보안 문제에 대해서도 심각성을 인식하고 대비해야 한다”고 말했다.

대전투데이, DAEJEONTODAY

< 저작권자 © 대전투데이 무단전재 및 재배포금지 >
정상범의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 미투데이 요즘 네이버 구글 msn 뒤로가기 위로가기
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
가장 많이 본 기사
1
충청권 3개 시도 의회, 대전‧충남 혁신도시 지정 한목소리
2
김돈곤 청양군수, 충남사회적경제혁신타운 유치 총력
3
‘천안시노인회관’ 건립 속도 …2021년 5월 준공
4
양승조 지사, 혁신도시 유치 마지막 총력전 돌입
5
당진시, 꽃 소비 촉진 캠페인 실시
6
공주시,‘스마트 챌린지 사업’ 선정
7
대전시-행안부 ‘민생규제 혁신과제 공모전’ 개최
8
최선경 예비후보 “홍문표, ‘혁신도시’ 선거용으로 이용하지 말라”
9
김근태 예비후보, 경선 필승의지 드러내
10
예산군, 모든 군민의 행복 위한 생활기반 구축 ‘총력’
신문사소개기사제보광고문의불편신고개인정보취급방침청소년보호정책이메일무단수집거부고충처리인
대전광역시 유성구 유성대로 26-20 태동빌딩 7층  |  대표전화 : 042-538-3030  |  팩스 : 042-538-2211  |  청소년보호책임자 : 김성구
업체명 : 대전투데이  |  사업자번호 : 314-81-93275  |  정기간행물ㆍ등록번호 : 대전 가 00017  |  대표자명 : 김현정  |  발행인 : 김현정  
Copyright © 2011 대전투데이. All rights reserved. mail to djtoday@djtoday.com