기업, ML 개발자 및 데이터 과학자가 이메일 피싱에 대처하기 위해 AI를 안전하게 구현할 수 있는 방법

이러한 기술은 피싱 전자 메일을 실시간으로 식별하여 조직이 사이버 공격으로부터 자신을 보호할 수 있도록 합니다.

AI는 기업의 모든 보안 문제를 해결하는 솔루션으로 가장 빠르게 움직이는 기술입니다. 데이터 관리 시스템을 위한 개인 정보 계층을 구축하는 것에서부터 이메일과 같은 인바운드 메시지의 부정 행위를 탐지하기 위해 자연어 처리를 사용하는 것에 이르기까지, 생성할 수 있는 공백이 매우 많습니다. 그러나 여러 비즈니스 리더들과 대화를 나누면서 대부분이 사소한 문제, 즉 이메일을 통한 피싱 사기의 심각성을 무시한다는 사실을 알게 되었습니다. 이메일이 기업 커뮤니케이션의 주요 수단이기 때문에 전 세계 수백만 명의 직원이 스팸을 유인하고 중요한 정보를 노출할 위험이 있습니다.

실제로 Proofpoint의 조사 결과에 따르면 2022년에는 83%의 조직이 이메일 피싱 공격을 받았습니다. 회사 이메일의 피싱 탐지는 특히 중요한 정보의 개인 정보와 기밀성을 유지하는 경우 복잡한 과제입니다. 이메일에는 종종 재무 수익, 합병 세부 정보, 직원 급여 및 개인 인사 문제와 같은 높은 이해 관계가 있는 데이터가 포함됩니다. 따라서 효과적인 피싱 탐지와 데이터 보호의 균형을 유지하는 것이 중요합니다.최신 DZone Refcard Neural Network Essentials기존 피싱 탐지 방법은 종종 전자 메일의 내용을 분석하여 피싱 시도를 나타내는 패턴, 키워드 또는 의심스러운 링크를 식별합니다.

그러나 이 접근 방식은 AI가 기밀 정보에 액세스하고 처리해야 하므로 데이터 개인 정보에 상당한 위험을 초래합니다. 결과적으로 기업들은 이러한 조용한 위협에 대처하기 위해 AI 가능성을 탐색하는 데 열심입니다. 그러나 기업 기밀 정보의 유출로 인해 위협이 더욱 악화되어서는 안 됩니다.

 

 

AI가 피싱을 예방하는 방법

AI의 구현에는 메타데이터, 메시지 내용 및 메시지의 컨텍스트를 포함한 이메일의 다양한 구성 요소를 분석하여 피싱 시도를 나타낼 수 있는 경고 신호 및 이상 징후를 식별하는 작업이 포함됩니다. 또한 ML 기반 전자 메일 보호 시스템은 지속적인 데이터 분석과 사용자 피드백을 통해 각 고객의 요구에 지속적으로 학습하고 적응하여 AI가 지속적으로 진화하도록 보장합니다. AI는 보낸 사람의 주소, 링크 및 첨부 파일, 전자 메일에 사용된 언어 등 전자 메일의 다양한 측면을 분석하여 전자 메일 피싱을 탐지합니다.

발신인 확인: AI 알고리즘은 발신인의 주소가 알려진 실체인지 의심스러운 것으로 플래그가 지정되었는지 확인할 수 있습니다.링크 및 첨부

파일 분석: AI는 링크 및 첨부 파일에서 악성 프로그램 또는 피싱 시도의 징후를 검색할 수 있습니다.

자연어 처리: 인공지능은 이메일에 사용된 언어를 분석하여 조작이나 속임수의 징후를 찾을 수 있습니다.

 

 

이상 징후 식별 및 경고 신호

AI 및 ML 기반 시스템은 메타데이터 및 메시지 내용을 포함한 다양한 기능을 분석하여 전자 메일의 피싱 시도를 효과적으로 탐지합니다. 이러한 경고는 위조된 보낸 사람과 같은 전자 메일 동작과 긴급성과 같은 메시지 의도를 기반으로 합니다.긴급성의 존재는 피싱 사기의 주요 위험 신호입니다. AI 시스템은 메시지의 컨텍스트를 분석하여 스팸, 피싱 시도 또는 합법적인 메시지인지 여부를 판단합니다.

"홍보"라는 단어만으로도 의심을 살 수 있지만, AI 시스템은 이메일의 위협 수준을 정확하게 평가하기 위해 더 깊이 파고듭니다. 이를 통해 "긴급: 50% OFF 프로모션"(단순 스팸)과 "카드 번호를 즉시 입력하여 프로모션을 청구하십시오"(피싱 사기)와 같은 문구를 구분할 수 있습니다. AI 시스템은 이메일의 맥락과 의도를 분석하여 위협의 심각성을 판단합니다."

AI는 이메일 스푸핑, 잘못된 철자의 도메인 및 기타 형태의 사기와 같은 이메일 헤더의 경고 신호도 감지합니다. AI 시스템은 SPF, DKIM, DMARC와 같은 기존 시스템과 결합할 때 위협 탐지 기능을 크게 향상시킵니다.

 

 

AI의 컨텍스트에서 메시지를 분석하는 기능은 피싱에 대한 강력한 방어 수단

AI는 이메일을 알려진 피싱 사기와 비교하는 대신 메시지의 잠재적 위협을 평가합니다. 전자 메일의 잠재적 위협을 평가하기 위해 이전 대화, 전자 메일에 요청된 정보 유형, 제목과 메시지 내용 간의 관계 등 다양한 요인을 고려합니다.스테인드글라스 변환 기술의 작업 게다가, ML 기반 전자 메일 보호는 데이터 및 사용자/관리자 피드백을 통한 학습을 통해 지속적으로 발전하고 있으며, 그 결과 분석이 점점 더 정확해지고 있습니다. 이를 통해 AI는 각 고객의 스타일과 요구사항에 지속적으로 적응할 수 있습니다.

그러나 현재 작업에 NLP를 사용하면 전자 메일 내용과 같은 중요한 정보가 데이터에 노출될 수 있습니다. 저는 연구하면서 이메일 피싱 탐지를 위한 첨단 NLP에서 Protopia AI의 작업을 연구했습니다. 이들은 시각적, 텍스트 또는 표 형식의 데이터에 액세스하는 유일한 개인 정보 계층을 제공하며 교육 또는 추론과 같은 ML 라이프사이클 전반에 걸쳐 적용할 수 있습니다.

스테인드글라스 변환 기술은 데이터를 모든 소스에서 가져와서 AI 모델이 필요로 하는 것을 배우고, 필요하지 않은 것을 제거하고, AI 모델 성능의 손실을 최소화하면서 들어오는 데이터를 변환합니다. 스테인드 글라스 변환은 ML 작업으로만 이해할 수 있는 데이터의 랜덤화된 재현을 생성합니다. 기업 기밀 정보가 포함된 이메일의 원시 데이터는 Sted Glass Transform을 사용할 때 피싱 탐지 AI 모델을 교육하고 배포하기 위해 노출될 필요가 없습니다. 따라서 기업 기밀 정보가 포함된 일반 텍스트 데이터는 피싱 탐지 AI 작업을 훈련하기 위해 노출될 필요가 없습니다.

 

 

기업, ML 개발자 및 데이터 과학자가 이메일 피싱에 대처하기 위해 AI를 안전하게 구현할 수 있는 방법

 

 

지속적인 학습

피싱 공격에 사용되는 전술은 위협 요인이 현재의 보안 조치를 우회하기 위해 노력함에 따라 지속적으로 변경되고 있습니다. 보호를 유지하기 위해서는 사이버 보안에 사용되는 기술도 지속적으로 개선되고 적응해야 합니다.

AI는 조직의 고유한 특성과 기타 오픈 소스 위협 인텔리전스 소스로부터 학습함으로써 지속적으로 진화합니다. 이러한 지속적인 개선 프로세스를 통해 AI는 최신 피싱 위협을 탐지하여 보다 효과적으로 피싱 위협을 피할 수 있습니다.

 

 

전자 메일 피싱의 심각성

전자 메일 피싱은 심각한 보안 위협으로 빠르게 부상하고 있습니다. 대부분 BEC(비즈니스 전자 메일 손상) 및 EAC(전자 메일 계정 손상)로 분류되는 이러한 공격은 해킹을 시도하는 악명 높은 체계입니다. 이는 주로 소셜 엔지니어링 또는 해킹과 같은 전술을 통해 합법적인 비즈니스 이메일 계정을 손상시키는 사기꾼과 관련된 사기입니다. 그런 다음 이러한 개인들은 해킹된 계정을 사용하여 무단으로 자금을 이체합니다.

2022년 BEC/EAC로 인한 총 손실은 125억 달러에 달했습니다. 따라서 비즈니스 리더, 특히 CIO는 이메일 피싱을 심각한 위협으로 홍보하고 AI와 관련된 전략을 수립해야 합니다. 이것은 또한 대규모 공격에 대응할 수 있는 고급 제품을 사용해야 합니다.

AI가 기업에서 더 널리 퍼지면서 보안과 개인 정보 보호를 강화하고 새로운 위험을 노출할 수 있는 잠재력이 있습니다. AI가 안전성 향상에 있어 가능성을 보여준 분야 중 하나는 피싱 공격과의 싸움입니다. AI 기반 안티피싱 도구는 방대한 양의 데이터를 분석하여 직원에게 도달하기 전에 피싱 이메일을 탐지하고 방지할 수 있습니다. 그러나 AI 기반 피싱 방지 도구를 구현하면 기업이 스스로를 보호하기 위해 새로운 위험에 노출될 수 있습니다.

AI 기반 피싱 방지 도구를 구현할 때 발생할 수 있는 잠재적 위험 중 하나는 합법적인 전자 메일이 피싱 시도로 잘못 표시되는 잘못된 긍정 가능성입니다. 이로 인해 필수적인 커뮤니케이션이 차단되고 비즈니스 프로세스가 지연될 수 있습니다.

또한 AI 알고리즘은 훈련된 데이터만큼만 우수합니다. 따라서 기업은 AI 편향을 방지하고 정확도를 향상시키기 위해 교육 데이터가 다양하고 최신인지 확인해야 합니다.

또 다른 잠재적 위험은 AI 기반 안티피싱 도구로 민감한 데이터를 수집하고 저장하는 것입니다. 논의된 바와 같이, 기업은 계정, 직원 및 향후 계획에 대한 기밀 정보를 매우 중요하게 다룰 수 있습니다. 기업은 이러한 도구로 수집된 데이터를 안전하게 저장하고 데이터 개인 정보 보호 규정을 준수해야 합니다.

또한 기업은 데이터 침해를 방지하기 위해 권한이 있는 직원만 이 데이터에 액세스할 수 있도록 해야 합니다.잘못된 긍정과 같은 위험을 완화하기 위한 조치를 취하고 규정을 준수하여 데이터가 안전하게 저장되도록 함으로써 기업은 AI 기반 안티피싱 도구를 성공적으로 구현하는 동시에 보안 및 개인 정보를 보호할 수 있습니다.

 

 

최적의 구현이 관건

이러한 기술은 피싱 전자 메일을 실시간으로 식별하여 조직이 사이버 공격으로부터 자신을 보호할 수 있도록 합니다. 그러나 AI가 만병통치약이 아니며 피싱은 여전히 조직에 중대한 위협으로 남아 있다는 점에 유의해야 합니다. 따라서 성공적인 피싱 공격의 위험을 줄이기 위해 직원 교육 및 교육을 비롯한 여러 보안 계층을 구현하는 것이 좋습니다.