인공지능을 활용하여 사이버 보안을 증강

보안을 가속화하기 위해 인공지능을 사용하는 것의 이점들이 있습니다. 그러나 완전 자동화는 인간의 통찰력을 필요로 합니다. 인공지능이 산업 전반에 걸쳐 빠르게 채택됨에 따라 사이버 보안 부문은 AI를 활용하여 점점 더 정교한 위협에 대한 방어를 강화하는 방법을 모색하고 있습니다.

최근 Fal.Con23 사용자 회의에서 크라우드스트라이크 실행 패널은 인간의 전문 지식을 대체하는 것이 아니라 증강하는 방식으로 AI를 통합하려는 그들의 비전을 설명했습니다.

 

인공지능을 활용하여 사이버 보안을 증강

 

보안상의 신속성의 필요성

널리 퍼진 주제는 AI를 사용하여 탐지 및 대응을 가속화하는 것이었습니다. 랜섬웨어와 같은 공격이 침입 시간을 단 몇 분으로 압축하는 경우, 속도는 이제 가장 중요한 단일 지표입니다. 인간 분석가들만으로는 기계 속도로 작동하는 위협에 보조를 맞출 수 없습니다. 오스틴 머피(Austin Murphy) 관리 탐지 및 대응 부사장은 "우리는 공격자 이탈 시간이 2018년 118분에서 지난해 7분으로 급감하는 것을 보고 있습니다."라고 요약했습니다

크라우드스트라이크는 클라우드 네이티브 AI를 사용하여 현대 보안 운영에 필요한 속도를 제공하는 것을 목표로 합니다. 그러나 공격의 복잡하고 지속적으로 진화하는 특성을 고려할 때 완전히 자동화된 보안은 경고되었습니다. AI가 소음을 필터링하고 반복적인 작업을 처리할 수 있지만 인간의 통찰력은 새로운 위협에 대응하는 데 여전히 중요합니다. 머피는 "AI는 주니어 분석가들이 기본 분류를 처리함으로써 상급 수준에서 운영할 수 있도록 하지만 판단 능력은 여전히 인간의 창의력과 직관력을 필요로 합니다."라고 설명했습니다

 

 

진화하는 전술

패널들은 어떻게 생성적인 인공지능이 최고의 공격 벡터로 남아있는 사회 공학을 압도할 수 있는지에 대한 소름 끼치는 예들을 보여주었습니다. 압도적으로 진짜인 합성 목소리와 성격을 사용하여 위협 행위자들은 규모에 따라 목표물을 효율적으로 속일 수 있습니다. 이것은 인공지능의 민주화가 새로운 위험을 창조한다는 것의 양면성을 보여줍니다. 

크라우드스트라이크는 AI의 힘을 받는 적들보다 앞서기 위해 대화 인터페이스를 갖춘 조수 샬롯과 같은 플랫폼을 강화하고 있습니다. 이것은 샬롯이 자연어 쿼리를 기계 실행 가능한 동작으로 번역하는 것과 함께 인간과 AI 사이의 매끄러운 협력을 가능하게 합니다. 그러한 협력은 인간 전문 지식의 뉘앙스와 AI의 속도 및 확장성을 결합합니다.

 

루프의 인간

이 미래로의 전환은 어셈블리 언어에서 현대 컴파일러 및 IDE로 이동하는 것과 비교되었습니다. 이는 추상화 계층을 높여 분석가들이 일상적인 로그 분석 대신 고부가가치 전략 작업에 집중할 수 있도록 합니다. 그러나 이것은 즉각적인 변화가 아닌 진화이며 AI 성숙은 품질 데이터로 모델을 신중하게 선별하는 데 몇 년이 걸립니다.

감독 측면에서 패널들은 AI가 전문 기술을 필요로 하는 영역으로 취급되어야 한다고 강조했습니다. 신경망 소독 및 오용 모니터링과 같은 개념은 아직 잘 알려져 있지 않습니다. 최고 AI 책임자와 같은 전담 역할은 개인 정보 보호 및 윤리를 보장하기 위해 제안되었습니다. 클라우드 및 섀도 IT를 안전하게 채택하는 것과 유사한 점이 도출되었습니다.

AI를 통합하려는 개발자와 건축가들을 위해, 조언에는 위험도가 낮은 사용 사례부터 점진적으로 시작하고 거버넌스 관행이 성숙할 때까지 접근을 제한하는 것이 포함되었습니다. 모델이 어떻게 행동하고 데이터가 어디로 흘러가는지에 대한 투명성은 매우 중요하며, 독이 든 데이터와 같은 적대적인 기술을 고려하는 것도 중요합니다. AI는 강력한 기회를 열어주지만 신중하게 채택되어야 합니다.

의견 일치는 인공지능이 사이버 보안에서 인간의 판단을 완전히 대체할 수 없다는 것이었습니다. 방어만큼 빠르게 적응하는 위협들과 함께, 인간의 창의성과 기계의 속도의 결합이 요구됩니다. 그러나 신중하게 구현된 인공지능은 반복적인 작업들을 자동화함으로써 과도하게 확장된 분석가들의 부담을 줄일 수 있습니다 - 영향이 큰 전략적 사고에 집중할 수 있도록 합니다. 이 협력은 점점 더 자동화되는 공격들로부터 방어하기 위한 열쇠입니다.

OverWatch Threat Hunting Param Singh의 부사장은 "우리는 이것이 더 이상 악성코드 문제가 아니라는 것을 이해합니다. 이것은 적대자 문제입니다. 적대자들은 실제로 그들의 악성코드가 탐지되었는지 아닌지를 알아보기 위해 VirusTotal에 업로드하고 있습니다. 그리고 그들은 탐지가 없을 때까지 코드를 계속 수정한 후 사용할 것입니다."라고 설명했습니다

 

 

더 패스 포워드

패널들은 AI와 같은 "빛나는 새로운 것"을 추구하기 전에 패치 적용과 MFA와 같은 보안 기본부터 강조했습니다. 바이서트가 경고했듯이 "당신은 당신이 모르는 것을 통제할 수 없습니다." 자산과 데이터 흐름에 대한 가시성은 필수 요소입니다.

점진적인 진행이 권고되었습니다 - 오용을 모니터링하는 동안 반복적인 워크플로우를 먼저 자동화합니다. 이것은 더 높은 가치의 알려지지 않은 위협에 전문가 자원을 집중할 수 있게 합니다. 싱은 "알 수 없는 위협에 더 집중할 수 있도록, 여러분 자신을 AI로 대체하세요"라고 말했습니다

결국, 크라우드스트라이크의 임무는 인간 방어자들에게 힘을 실어주기 위해 기술을 사용하는 것입니다. 강력한 데이터 기반과 사용자 경험에 초점을 맞춘 목표는 마찰 없는 인공지능 지원입니다. 이것은 보안 팀이 점점 더 자동화되는 공격에 보조를 맞출 수 있게 합니다.

머피(Murphy)가 결론을 내리자, "Tier 1 및 2 분석가가 필요 없는 것은 아닙니다. 이제 기본에 대한 교육을 받을 수 있다는 것뿐입니다. 우리가 본 것은 AI를 통해 분석가들이 인간만이 수행할 수 있는 가치가 높은 창의적이고 전략적인 작업에 부족한 시간을 할애할 수 있다는 것입니다."

 

 

진화하는 위협 환경

패널들은 고조되는 사이버 위협 환경의 우려스러운 그림을 그렸습니다. AI를 넘어, 그들은 적대자들이 새로운 착취 기술과 랜섬웨어 전술로 지속적으로 혁신하고 있다고 언급했습니다. 싱은 설명한 바와 같이, "매일 새로운 기술, 사용되고 있는 새로운 전술, 새로운 순열 및 조합이 우리가 이전에 해결하지 못한 체인을 이용하는 것을 봅니다. 그리고 그것은 위협 행위자도 그것을 사용할 것이기 때문에 AI와 함께 증가할 것입니다."

이것은 인공지능만으로는 공격자의 창의성에 보조를 맞출 수 없기 때문에 지속적인 인간 유도 혁신의 필요성을 강조합니다. 방어는 인간과 기계 학습 능력을 모두 활용해야 합니다.

 

 

인간의 통찰력과 기계 속도의 통합

인간의 전문 지식과 AI의 확장성을 긴밀하게 통합하는 것이 핵심 원칙으로 강조되었습니다. 위협이 디지털 속도로 작동하기 때문에 소음을 빠르게 필터링하고 대응하기 위해서는 AI가 필요합니다. 그러나 모델이 놓친 새로운 위협을 식별하기 위해서는 여전히 인간의 판단이 필요합니다.

인간의 창의성과 기계의 일관성을 결합함으로써 조직은 개인화된 통찰력과 신속한 자동화라는 두 가지 측면에서 최고를 달성할 수 있습니다.

 

오용의 위험성

인공지능은 확장 가능한 효율성을 가능하게 하지만 위험성 또한 조사되었습니다. 패널은 적절하게 모니터링되지 않으면 잘못된 정보나 편향된 관점을 퍼뜨리기 위해 생성 모델이 잘못 사용될 수 있다고 경고했습니다.

Murphy는 "C Suite 고객들로부터 사용자들이 이 훌륭한 기술을 가지고 놀다가 지적 재산을 제3자에게 보내는 것을 깨닫지 못했기 때문에 발생하는 문제에 대한 이야기를 들었습니다."라고 말했습니다.

이는 데이터 개인 정보 보호, 사용자 인증, 투명성, 편향 탐지 등을 고려할 때 AI를 도입하기 전 신중한 감독이 필요하다는 것을 보여줍니다. 이러한 가드레일 없이 서둘러 도입하는 것은 위험합니다.

 

차세대 교육

차세대 보안 전문가들이 AI를 안전하고 효과적으로 활용할 수 있도록 교육할 수 있도록 조언했습니다. 모델 강건성, 윤리성, 알고리즘 편향성 등의 개념이 사이버 보안 교육의 핵심이 되어야 합니다.

전문화된 AI 기술이 점점 더 의무화됨에 따라 이러한 새로운 기술에 맞춘 프로그램은 수비자에게 매우 중요할 것입니다. 합의는 인간의 독창성을 혼합하는 것이었고, 기계 효율성은 현대적인 위협에 대처하는 데 필수적입니다.

신중하게 실행될 때, 인공지능 지원 보안은 분석가들이 더 큰 맥락과 디지털 속도로 운영할 수 있게 합니다. 이 융합은 사이버 보안을 기술과 인간의 창의성이 공격을 물리치기 위해 조화롭게 작동하는 미래로 추진할 것을 약속합니다.