보안 위반에 대한 Microsoft의 'Security Copilot' Sics ChatGPT

Jun 10, 2023

릴리 헤이 뉴먼

수년 동안 "인공 지능"은 사이버 보안 업계에서 뜨거운 유행어였습니다. 네트워크에서 의심스러운 동작을 발견하고, 무슨 일이 일어나고 있는지 신속하게 파악하고, 침입이 있을 경우 사고 대응을 안내하는 도구를 약속하는 것입니다. 그러나 가장 신뢰할 수 있고 유용한 서비스는 실제로 맬웨어 및 기타 의심스러운 네트워크 활동의 특성을 파악하도록 훈련된 기계 학습 알고리즘이었습니다. 이제 생성적 AI 도구가 확산되면서 Microsoft는 마침내 모든 기대에 부응할 만한 방어자를 위한 서비스를 구축했다고 밝혔습니다.

2주 전 이 회사는 대규모 언어 모델에 대한 Microsoft의 자체 작업과 함께 OpenAI와의 파트너십을 기반으로 구축된 Microsoft 365 Copilot을 출시했습니다. 이 회사는 현재 Microsoft Sentinel 및 Defender와 같은 보안 도구는 물론 타사 서비스의 시스템 데이터와 네트워크 모니터링을 통합하는 일종의 보안 현장 노트북인 Security Copilot을 출시하고 있습니다.

Security Copilot은 경고를 표시하고, 네트워크 내에서 무슨 일이 일어나고 있는지 단어와 차트로 계획하고, 잠재적인 조사를 위한 단계를 제공할 수 있습니다. 인간 사용자가 Copilot을 사용하여 가능한 보안 사고를 계획할 때 플랫폼은 기록을 추적하고 요약을 생성하므로 동료가 프로젝트에 추가되면 신속하게 속도를 파악하고 지금까지 수행된 작업을 확인할 수 있습니다. 또한 시스템은 조사에 대한 슬라이드 및 기타 프리젠테이션 도구를 자동으로 생성하여 보안 팀이 부서 외부의 사람들, 특히 보안 경험이 없지만 계속 정보를 받아야 하는 임원들에게 상황의 사실을 전달할 수 있도록 돕습니다.

마이크로소프트의 보안 담당 수석부사장인 바수 자칼(Vasu Jakkal)은 “지난 몇 년 동안 우리는 공격 빈도, 공격의 정교함, 공격의 강도가 절대적으로 증가하는 것을 목격했다”고 말했다. "그리고 방어자가 공격의 확대를 억제할 시간이 많지 않습니다. 지금은 균형이 공격자 쪽으로 이동하고 있습니다."

로렌 구드

로렌 구드

줄리안 초카투

윌 나이트

Jakkal은 기계 학습 보안 도구가 이메일 모니터링이나 개별 장치의 활동(엔드포인트 보안이라고 함)과 같은 특정 영역에서 효과적이었지만 Security Copilot은 이러한 개별 스트림을 모두 통합하여 더 큰 그림을 추정한다고 말합니다. "Security Copilot을 사용하면 결합 조직을 형성하기 때문에 다른 사람들이 놓쳤을 수도 있는 것을 포착할 수 있습니다."라고 그녀는 말합니다.

Security Copilot은 주로 OpenAI의 ChatGPT-4에 의해 구동되지만 Microsoft는 독점적인 Microsoft 보안 관련 모델도 통합한다고 강조합니다. 시스템은 조사 중에 수행된 모든 작업을 추적합니다. 결과 기록을 감사할 수 있으며, 배포를 위해 생성된 자료는 정확성과 명확성을 위해 모두 편집될 수 있습니다. 조사 중에 Copilot이 제안하는 내용이 잘못되었거나 관련성이 없는 경우 사용자는 "대상 외" 버튼을 클릭하여 시스템을 추가로 교육할 수 있습니다.

플랫폼은 액세스 제어 기능을 제공하므로 특정 동료는 특정 프로젝트에서 공유할 수 있고 다른 프로젝트에서는 공유할 수 없습니다. 이는 가능한 내부자 위협을 조사하는 데 특히 중요합니다. 그리고 Security Copilot을 사용하면 연중무휴 모니터링을 위한 일종의 백스톱이 가능합니다. 이렇게 하면 특정 기술을 갖춘 사람이 특정 근무 시간이나 특정 날짜에 근무하지 않는 경우에도 시스템은 격차를 줄이는 데 도움이 되는 기본 분석과 제안을 제공할 수 있습니다. 예를 들어 팀이 악성일 수 있는 스크립트나 소프트웨어 바이너리를 신속하게 분석하려는 경우 Security Copilot은 해당 작업을 시작하고 소프트웨어의 작동 방식과 목표가 무엇인지 상황에 맞게 분석할 수 있습니다.

Microsoft는 고객 데이터가 다른 사람과 공유되지 않으며 "기본 AI 모델을 훈련하거나 강화하는 데 사용되지 않는다"고 강조합니다. 하지만 Microsoft는 전 세계 대규모 고객 기반의 "65조 일일 신호"를 사용하여 위협 탐지 및 방어 제품을 알리는 데 자부심을 갖고 있습니다. 그러나 Jakkal과 그녀의 동료인 Microsoft의 부사장이자 AI 보안 설계자인 Chang Kawaguchi는 Security Copilot이 통합된 모든 보안 제품과 동일한 데이터 공유 제한 및 규정의 적용을 받는다고 강조합니다. 따라서 이미 Microsoft Sentinel 또는 Defender를 사용하고 있는 경우 Security Copilot은 해당 서비스의 개인 정보 보호 정책을 준수해야 합니다.