[감리사, 토픽] AI, 머신러닝 보안

 AI 보안을 공부하기 위해서는 AI, 머신러닝이 어떻게 진행되는지 알면 좋습니다.

진행되는 과정에서 취약성을 식별할 수 있고, 이 취약성을 이용하여 Adversarial Attack을 할 수 있습니다. 

🔅 Adversarial Attack 종류

학습할 때 데이터를 이용하여 공격하는 방법이 Poisoning/Evasion attack이고,

학습이 된 상태에서 cleansing된 데이터를 훔쳐가는 것이 Inversion 공격, 잘 만들어진 모델을 훔쳐가는 것이 Extraction 공격입니다.

아래 동영상은 머신러닝 과정을 설명하고 있습니다. 위 공격과 관련된 용어가 나와서 왜 공격 명칭을 저렇게 지었는지 알 수 있습니다.