"표지판에 스티커만 붙여도 자율차 바보돼"

"표지판에 스티커만 붙여도 자율차 바보돼"

• 입력 : 2017.08.07.17:35
• 수정 : 2017.08.07.17:42

이 기사를 읽고 우선 테슬러 자율주행차 사고가 생각났다.

하늘과 트레일러의 측면의 색을 구분하지 못하여 사고가 났다.

자율주행차가 사고를 줄일 수 는 있지만, 오작동을 할 수 있다는 것을 보여주는 사례다.

이 기사의 연구팀 또한 이러한 오작동에 대해 연구한 것인데, 

기사의 일부분만 발췌하자면,

자율주행차는 다양한 센서가 탑재돼 외부 정보를 인식한다. 주위의 자동차나 보행자, 도로 표지판 등을 카메라로 촬영하고 미리 준비돼 있는 기계 학습 시스템을 사용해 화상 인식 처리해 즉시 도로 상황을 파악하는 것이다.

그러나 워싱턴 대학의 타다요시 코노 박사 연구팀은 도로 표지판에 스티커를 붙이는 것만으로 자율주행차 인식 기능을 오작동하게 만드는 방법을 찾아냈다.

연구팀은 이 사이버 공격 수법을 ‘Robust Physical Perturbations(RP2)’라고 명명했다.

자율주행차의 이미지 인식 시스템은 주로 ‘물체 감지’ 기능과 ‘분류’ 기능으로 나눠져 있다.

물체감지는 자동차나 보행자 신호 등 ‘물체의 존재’를 감지하는 것이고, 분류는 감지된 물체가 무엇인지 ‘내용’을 데이터에 비춰 판단하는 것을 뜻한다.

​

도로 표지판이 어떤 의미를 갖는지 판단하는 것은 분류 기능이다.

​

그러나 코노 박사는 “이미지를 분류하는 데 이용되는 심층 신경망의 취약점을 악용할 경우 분류 기능을 담당하는 알고리즘과 이미지 인식에 문제를 일으킬 수 있다”며 “RP2와 같은 자율주행차 오인식 문제를 일으키는 ‘맞춤 이미지’가 생성될 위험이 있다”고 경고했다.

​라 한다.

자율주행차는 다양한 센서가 탑재돼 외부 정보를 인식한다고 한다.

그리고 다른 기사를 찾아보면 GPS로도 자율주행차의 외부 정보를 인식한다고 한다.

자율주행차 센서가 인식을 잘못하더라도, 그래비티에 낚이더라도 GPS로 사고를 예방하는 것도 하나의 방법이라고 생각한다.

도로표지판이 그래비티로 우회전이라고 속여도, GPS 지도상에서 우회전할 곳이 없다면 못가게 하는?

 그런 식으로..?

물론 이렇게 하면 센서와 GPS 우선순위를 어디에 둬야하는지 등 또 다른 문제가 있지만, 센서만으로 자율주행차를 맡긴다는 것은 굉장히 위험해 보이니 속히 센서해킹에 대해 보완점을 찾아야할 것 같다.

근데 센서, GPS 둘 다 해킹당하면 어쩌지? ....