AI 레드팀이란
레드팀은 방어하는 쪽(블루팀)이 아니라 공격하는 쪽의 시선으로 조직의 보안을 시험하는 사람들, 또는 그 활동을 말해요. NIST 용어집은 레드팀을 ‘잠재적 공격자의 공격 능력을 흉내 내도록 승인받고 조직된 집단’으로 설명해요. 실제 공격이 벌어지기 전에 어디가 뚫리는지 먼저 확인하려는 거예요.
전통적인 레드팀과 모의해킹(침투 테스트)은 보안 전문가가 직접 수행해요. AI 레드팀은 그중 정찰 → 약점 탐색 → 결과를 보고 다음 수를 고르기 → 증거로 확정하는 반복을 AI가 맡는 방식이에요. 사람이 하나씩 고르던 도구 선택과 순서를 AI가 제안하고, 도구가 실제로 돌려받은 응답으로 사실을 확인해요.
두 가지 뜻 — Redme는 어느 쪽인가
‘AI 레드팀’이라는 말은 두 가지로 쓰여서 헷갈리기 쉬워요. 검색하실 때 이 차이를 알아 두면 원하는 서비스를 더 빨리 찾을 수 있어요.
| 쓰임 | 점검 대상 | 대표적인 시험 | Redme |
|---|---|---|---|
| AI가 하는 레드팀 (공격 자동화) | 웹 서비스·서버 같은 일반 IT 자산 | 서브도메인 정찰, 알려진 취약점(CVE) 확인, 노출된 관리자 페이지·백업 파일 찾기, 인증·세션 설정 점검 | 이쪽이에요 |
| AI를 대상으로 하는 레드팀 (AI 안전성 시험) | LLM·챗봇·AI 모델 자체 | 프롬프트 인젝션, 탈옥(jailbreak), 유해 응답 유도 | 하지 않아요 |
Redme의 점검 대상은 어디까지나 도메인이 외부에 내놓은 웹·서버 영역이에요. 서비스에 AI 기능이 들어 있어도, 점검하는 것은 그 서비스가 인터넷에 노출한 공격면이지 모델의 답변 품질이나 프롬프트 방어는 아니에요.
어떻게 동작하나
한 번의 점검은 아래 여섯 단계를 AI가 판단하며 오가는 과정이에요. 자세한 설명은 공격 방식 페이지에 있어요.
- 정찰 — 공개 인증서 기록과 DNS로 서브도메인을 찾아요. 이 단계에서는 대상에 직접 요청을 보내지 않아요.
- 공격면 지도 — 살아 있는 호스트와 웹 서버·기술 스택·버전을 조사해요.
- 취약점 매칭 — 알려진 CVE, 노출된 설정·관리자 페이지를 확인해요.
- 웹 점검 — 쿠키·헤더·세션 설정과 숨은 경로를 확인해요.
- 인젝션 탐지 — SQL 인젝션 여부만 탐지하고 데이터는 꺼내지 않아요.
- AI 검증·보고 — 위양성을 걸러 내고 증거를 확정해 고치는 방법과 함께 리포트로 정리해요.
핵심은 AI가 명령을 직접 실행하지 못한다는 점이에요. AI는 ‘이 도구를 이 호스트에 쓰겠다’고 제안만 하고, 코드로 만든 검증기가 호스트가 범위 안인지, 인자가 안전한지, 속도 상한을 넘지 않는지 확인해 허가한 것만 격리된 샌드박스에서 실행돼요. 샌드박스에는 비밀키가 들어 있지 않아요. 자세한 내용은 안전장치 페이지에서 확인할 수 있어요.
모의해킹과 다른 점
AI 레드팀은 모의해킹을 대체하는 이름이 아니라, 같은 목적을 더 자주·더 싸게 반복하는 방법에 가까워요. 큰 차이는 아래와 같아요. 비용과 주기까지 포함한 비교는 모의해킹 비교에서 따로 정리했어요.
| 항목 | 사람이 하는 모의해킹 | AI 레드팀(Redme) |
|---|---|---|
| 누가 판단하나 | 보안 전문가 | AI 오케스트레이터가 제안하고, 코드 검증기가 허가 |
| 점검 주기 | 계약 단위로, 보통 1년에 1~2회 | 원할 때 바로, 구독이면 주 1회 자동 재점검 |
| 새 취약점 대응 | 다음 계약·점검 때 | 구독은 새로 악용되는 취약점을 바로 대조 (신규 취약점 점검) |
| 잘하는 것 | 업무 흐름·비즈니스 로직, 창의적인 연쇄 공격, 내부망 | 외부 공격면의 반복 점검, 알려진 취약점·설정 오류의 빠른 확인 |
무엇을 찾아내나
스캔 한 번에 아래 아홉 가지 범주를 확인해요. 도구와 심각도 기준은 점검 범위 페이지에 표로 정리돼 있어요.
- 인증 없이 열린 관리자·내부 페이지
- 백업·설정·소스 파일 노출(
.env,.git등) - 알려진 취약점(CVE)과 맞는 소프트웨어 버전
- 웹로직·Struts·Spring·Log4j·Jenkins 같은 서버 소프트웨어의 알려진 원격 실행 취약점(47종을 이름으로 지정해 확인)
- 점검 목록에서 빠진 서브도메인(개발·영업·파트너용)
- SQL 인젝션 가능성(탐지만)
- 쿠키 HttpOnly·Secure 누락 같은 인증·세션 설정
- 보안 헤더·TLS 설정
- 서버 버전 배너·디버그 화면 같은 정보 노출
못 하는 일과 한계
어떤 점검도 100% 안전을 보장하지 못해요. 아래는 Redme가 하지 않거나 못 하는 일이에요. ‘발견 없음’이 ‘안전함’을 뜻하지는 않아요.
- 내부망·VPN 뒤 시스템, 사회공학·피싱·물리 보안은 범위 밖이에요.
- 소스코드 분석과 모바일 앱 내부는 보지 않아요.
- 업무 흐름·비즈니스 로직 결함은 깊게 보지 못해요(로그인 상태 점검은 화면을 열어 보는 수준이에요).
- 서비스 거부(DoS), 무차별 대입, 데이터 추출은 하지 않아요.
- AI 모델·챗봇의 프롬프트 인젝션·탈옥 같은 AI 안전성 시험은 하지 않아요.
- 제3자 클라우드·호스팅 사업자의 인프라는 그 사업자의 정책을 이용자가 먼저 확인해야 해요.
안전하게 하려면
공격 수준의 도구를 쓰는 점검일수록 허가가 먼저예요. Redme는 스캔을 시작할 때마다 아래 네 관문을 모두 다시 확인하고, 하나라도 빠지면 시작하지 않아요.
- 소유권 증명 — DNS TXT 레코드로 이 도메인이 내 것임을 증명해요.
- 도메인 메일 동의서 — 그 도메인의 메일 주소로 보낸 동의서에 서명해야 해요.
- 결제 확인 — 크레딧이나 구독이 확인돼야 해요.
- 네트워크 고정 — 점검할 수 있는 주소 목록을 시작 시점에 고정하고, 목록 밖으로는 연결 자체가 막혀요.
도입 전 체크리스트
- 점검할 도메인과 서브도메인 범위를 정해요.
- 도메인 DNS를 수정할 수 있는 담당자(TXT 레코드)와 도메인 메일 주소를 받는 담당자(동의서 서명)를 정해요.
- 서비스가 클라우드·호스팅 위에 있다면 그 사업자의 모의해킹 허용 정책을 확인해요.
- 로그인 상태 점검이 필요하면 점검용 계정이나 세션 쿠키를 준비해요(빠른 점검에서만 쓸 수 있어요).
- 운영팀에 점검 시간대와 연락처를 알려 두어요. Redme는 서비스 거부 공격을 하지 않지만, 로그에 점검 흔적이 남아요.
- 리포트를 받을 사람과 발견 사항의 수정 담당·기한을 정해요.
- 한 번으로 끝내지 않고, 재점검 주기(구독이면 주 1회)와 신규 취약점 감시를 켤지 정해요.
- 법령·인증·고객사 요건이 사람이 수행한 모의해킹 보고서를 요구하는지 확인해요. 그런 경우에는 Redme의 리포트가 그 보고서를 대신하지 못할 수 있어요.
자주 묻는 질문
AI 레드팀이란 무엇인가요?
AI 레드팀은 정찰·약점 탐색·다음 수 선택·검증의 반복을 AI가 맡아 허가된 범위를 공격해 보는 보안 점검이에요. Redme는 소유와 동의를 확인한 도메인의 외부 공격면만 이 방식으로 점검하고, 취약점·증거·해결책을 리포트로 드려요.
AI 레드팀과 모의해킹은 어떻게 다른가요?
모의해킹은 보안 전문가가 직접 수행하는 시험이고, AI 레드팀은 그 시험의 정찰·판단·검증 반복을 AI가 맡아 더 자주 돌리는 방식이에요. 업무 로직·내부망·사회공학은 사람이 하는 모의해킹이 더 낫고, 외부에 노출된 웹 공격면의 반복 점검은 AI 레드팀이 맞아요.
AI 서비스(챗봇·LLM)의 프롬프트 인젝션도 점검하나요?
아니요. Redme는 도메인이 외부에 노출한 웹·서버 공격면을 점검하는 서비스이고, AI 모델의 프롬프트 인젝션·탈옥 같은 AI 안전성 시험은 하지 않아요.
AI가 마음대로 공격 명령을 실행하지는 않나요?
AI는 도구 호출을 제안만 할 수 있고, 실행은 코드 검증기가 호스트 범위·인자·속도 상한을 확인해 허가한 것만 격리된 샌드박스에서 이뤄져요. 데이터 추출·셸 획득 옵션과 서비스 거부를 일으키는 인자는 실행 전에 거부하고, 샌드박스에는 비밀키가 없어요.
AI 레드팀의 결과를 그대로 믿어도 되나요?
발견마다 도구가 실제로 돌려받은 응답이 증거로 붙고, AI가 덧붙인 해석은 「AI 작성 참고」로 따로 표시돼요. 그래도 중요한 변경 전에는 담당자가 증거를 직접 확인하길 권해요. 발견이 없다는 결과는 안전하다는 뜻이 아니라 그 방법으로 확인하지 못했다는 뜻이에요.
AI 레드팀을 쓰면 사람이 하는 모의해킹은 필요 없나요?
꼭 그렇지는 않아요. 업무 로직·내부망·사회공학까지 보려면 사람이 하는 모의해킹이 필요하고, 법령·인증·고객사 요건이 사람이 수행한 보고서를 요구하면 Redme 리포트가 그것을 대신하지 못할 수 있어요. 연 1회 심층 모의해킹과 그 사이를 메우는 상시 자동 점검을 함께 쓰는 경우가 많아요.
AI 레드팀은 어떤 조직에 맞나요?
인터넷에 노출된 웹 서비스와 서브도메인이 많고 외주 점검 사이의 공백이 걱정되는 기업·공공기관에 맞아요. 점검 목록에서 빠지기 쉬운 직원용·영업용·파트너용 시스템을 찾는 데도 쓸 수 있어요. 내부망 중심이거나 사람이 쓴 모의해킹 보고서가 꼭 필요한 경우에는 맞지 않을 수 있어요.
AI 레드팀 점검을 시작하려면 무엇이 필요한가요?
구글 계정으로 로그인해 점검할 도메인을 등록하고, DNS TXT 레코드로 소유권을 증명하고, 그 도메인의 메일로 온 동의서에 서명하고, 크레딧이나 구독으로 결제하면 돼요. 소유권·동의서·결제·네트워크 고정 네 가지 관문을 모두 통과해야 스캔이 시작돼요.
참고한 자료
- NIST CSRC 용어집 — red team (레드팀의 정의)
- NIST SP 800-115, Technical Guide to Information Security Testing and Assessment (보안 테스트·점검의 일반 지침, 2008년 9월)
- CISA Known Exploited Vulnerabilities Catalog (실제 공격에 악용된 취약점 목록)
- Redme 내부 문서: 공격 방식 · 점검 범위 · 안전장치 · 점검 엔진
이 글은 Redme(주식회사 웍스AI)가 정리한 일반적인 설명과 서비스의 실제 동작을 함께 적은 것이에요. 서비스의 동작은 코드와 같은 값을 쓰도록 만들었고, 바뀌면 이 페이지도 함께 갱신해요.