인프런 커뮤니티 질문&답변

안녕하세요 🙂
시중에 나와 있는 생성형 AI 를 기준으로 개인적인 생각을 말씀드리자면
한 가지를 고르라면 디펜스(방어)가 더 유리하다고 생각합니다.
로그·알람 요약, 탐지 규칙(KQL/Sigma) 초안, IR 타임라인 정리, 보안 문서 자동화처럼 “자연어 ↔ 구조화” 작업이 많아서 LLM이 바로 힘을 쓸 수 있다고 생각하네요 ㅎㅎ

오펜시브에서도 매우 유용하게 사용할 수 있는 경우도 있습니다!

White Box 분석을 진행 할 때, 사람이 읽기 어렵게 난독화해둔 코드를 해석하거나, 전체적인 구조를 빠르게 분석할 수 있는 매우 좋은 도구로써 사용이 되고 있습니다.

실제로 CTF 에서 Reversing문제의 write up을 CHAT GPT 채팅 내역으로 보여주는 것이 유행처럼 존재하기도 합니다..ㅎㅎ

하지만 이는 시중에 나와 있는 생성형 AI가 기준이며, 이미 여러 회사에서 Offensive Hacking을 위한 LLM, 딥러닝 모델을 연구라는 중에 있습니다. 실제로 관련 대회도 있고, AI로 복잡도가 낮은 취약점을 우수수 찾은 연구 결과도 있습니다.

시중에 나와 있는 AI는 기본적으로 악용을 막기 위해 프롬프트 필터링을 진행하며, 실제 Offensive Hacking에 사용하기 위해서는 AI를 정말 잘 설득시켜 사용해서 사용하거나, CTF 전용으로 나온 플러그인 AI를 사용하는 것이 일반적입니다.

아직 Offensive Security를 위한 AI는 풀려있지 않지만, 충분히 AI를 활용 가능하다고 생각합니다. ㅎㅎ