DevOps를 위한 생성형 인공지능: 실용적 관점

생성 AI는 DevOps 팀이 지루한 반복을 없애고, 자동화를 강화하며, 복잡한 워크플로우를 간단한 대화 작업으로 압축할 수 있도록 지원합니다.

생성 인공지능의 개념은 최소한의 인간 입력으로 새로운 콘텐츠를 만들 수 있는 기계 학습 알고리즘을 설명합니다. 이 분야는 지난 몇 년 동안 텍스트 작성 도구 ChatGPT 및 현실적인 이미지 작성자 DAL-E2와 같은 프로젝트가 주류의 관심을 끌면서 빠르게 발전했습니다.

하지만 생성 AI는 콘텐츠 제작자만을 위한 것이 아닙니다. 또한 소프트웨어 엔지니어링 및 DevOps 분야의 기술 작업을 혁신할 준비가 되어 있습니다. 예를 들어, 논란이 되고 있는 "AI 페어 프로그래머"인 깃허브 코파일럿은 이미 코드가 작성되는 방식에 대한 재고를 불러일으키고 있지만, 협업 AI의 잠재력은 데브옵스 분야에서 비교적 미개척 상태로 남아 있습니다.

생성 AI가 DevOps 팀에게 지루한 반복을 제거하고 자동화를 강화하며 복잡한 워크플로우를 단순한 대화 작업으로 압축할 수 있는 미래를 기대합니다. 하지만 그 모든 것에 앞서, 생성 AI가 개선할 수 있는 데브옵스 문제에 대해 알아보겠습니다.

 

DevOps를 위한 생성형 인공지능: 실용적 관점

 

 

데브옵스의 문제점

DevOps는 해결된 문제와는 거리가 먼 문제입니다. DevOps 사고방식의 채택은 해마다 빠르게 증가하고 있지만, 프로세스는 여전히 많은 툴, 제한된 인재 풀 및 부분적으로만 자동화된 반복적인 작업에 의존하고 있습니다.

DevOps 엔지니어는 구축 승인, 환경 상태 확인, 기본 구성 파일 비계 작성 등 비즈니스 가치에 크게 기여하지 않는 사소한 작업에 너무 많은 시간을 할애할 수 있습니다. 피할 수는 없지만, 이러한 일들은 최종 제품에 직접적으로 기여하지 않는 허드렛일입니다. 또한 ChatGPT 및 Copilot(또는 Copilot이 구축된 OpenAI Codex) 모두 잠재적으로 다음과 같은 스트레스를 완화할 수 있는 생성 AI의 훌륭한 후보입니다:

• 일반적인 구성 파일과 템플릿을 채울 수 있으므로 엔지니어가 그럴 필요가 없습니다.
• 그들은 상황에 따라 관련된 스니펫을 제안함으로써 팀원들이 새로운 기술을 습득할 수 있도록 도와줍니다. 이것은 필요할 때 도움을 제공하여 업스킬 중 학습 곡선을 줄입니다.
• 이를 통해 새로운 자산의 규모를 조정하는 데 소요되는 시간을 줄이고 일관성을 개선하여 유지보수성을 개선할 수 있습니다.

 

그러나 기존 시스템은 콘텐츠 생성에 초점을 좁히기 때문에 한계가 있습니다. DevOps Assistant가 워크플로우 단계를 트리거하고 상태 변경을 적용하기 위한 의도 및 작업 기반 경험을 제공하는 경우 더 강력합니다. 예를 들어, Copilot의 코드 작성자를 양방향 대화 인터페이스와 병합했을 때의 경험을 상상해 보십시오:

• 어시스턴트에게 프로세스를 온디맨드로 시작하도록 요청한 다음 필요할 때 입력을 제공하라는 메시지를 표시할 수 있습니다.
• 개발자는 운영 환경에 배포를 요청하는 것과 같이 잠재적으로 중요한 작업에 대한 셀프 서비스 액세스 권한을 갖게 됩니다. AI는 오류의 위험을 최소화하고 개발자와 인프라 사이에 안전 장벽을 설정하여 그들을 대신하여 안전하게 조치를 수행할 것입니다. AI 비서는 또한 모든 사람이 플랫폼 변경에 대해 알 수 있도록 절차에 착수하기 전에 관련 팀 구성원에게 검토를 요청할 수 있습니다.
• AI는 모니터링 메트릭이 변경될 때 실시간으로 경고할 수 있습니다. 예를 들어, 배포가 실패하거나, 보안 위반이 감지되거나, 성능이 기준에서 벗어날 경우 즉시 수행할 작업을 선택할 수 있는 메시지가 표시됩니다.

 

중요한 것은 이러한 능력이 인간을 대체하거나 근본적으로 그들의 역할을 변화시키지 않는다는 것입니다. 이러한 형태의 AI는 일상적이고 지속적으로 안전 메커니즘을 시행함으로써 엔지니어링 능력을 향상시킵니다. 이를 통해 DevOps 팀은 더 짧은 시간에 더 의미 있는 작업을 완료할 수 있습니다.

 

 

발전적 인공지능을 갖춘 데브옵스의 미래

생성 AI가 데브옵스가 작동하는 방식을 재정의할 수 있는 엄청난 잠재력이 있습니다. 여기 그것이 지배하게 될 세 가지 구체적인 분야가 있습니다.

 

1. 제안된 해결책을 포함한 자동 고장 감지

실패는 개발자와 운영자 모두에게 지속적인 문제입니다. 예측할 수 없는 중단으로 인해 즉시 컨텍스트 전환에서 수정 사항의 우선순위를 지정해야 합니다. 불행히도, 이것은 생산성을 저해하고, 출시 일정을 늦추며, 개선 작업이 계획대로 진행되지 않을 때 좌절감을 유발합니다.

AI 에이전트는 결함을 감지하고 원인을 조사할 수 있습니다. 또한 분석 결과를 생성 기능 및 과거 장애에 대한 지식과 결합하여 경고가 표시되는 상황에서 즉각적인 조치를 제안할 수 있습니다.

간단한 쿠버네티스의 예를 생각해 보십시오: Assistant는 프로덕션이 중단되었음을 인식하고, 리소스 제약으로 인해 포드가 제거되었음을 인식하고, 포드를 다시 시작하거나, 클러스터를 확장하거나, 사용되지 않는 다른 리소스를 종료하는 작업 버튼을 제공합니다. 팀은 수동으로 문제를 해결하는 데 몇 분을 소비하는 대신 클릭 한 번으로 문제를 해결할 수 있습니다.

 

2. On-Demand 코드/구성 생성 및 배포

생성 AI의 코드 작성 능력은 놀라운 가치를 제공합니다. 대화적인 의도로 계층화하면 접근성과 편의성이 향상됩니다. 예를 들어, 대화 인터페이스에 간단한 메시지를 작성하여 AI 에이전트에게 새 프로젝트, 구성 파일 또는 테라폼 상태 정의를 설정하도록 요청할 수 있습니다. 에이전트는 템플리트 자리 표시자에 대한 값을 입력하라는 메시지를 표시한 후 내용을 검토할 준비가 되었음을 해당 이해 관계자에게 알릴 수 있습니다.

승인을 얻은 후, AI는 원래 개발자에게 알리고, 프로젝트를 실제 환경으로 시작하고, 배포를 보고 반복할 수 있는 링크를 제공할 수 있습니다. 이것은 개발자들을 위해 여러 개의 개별 시퀀스를 하나의 셀프 서비스 작업으로 압축합니다. 운영 팀은 사전에 프로젝트의 리소스를 수동으로 프로비저닝할 필요가 없으므로 자신의 작업에 계속 집중할 수 있습니다.

 

3. 신속한 온디맨드 워크플로우 관리

차세대 AI 에이전트는 단순한 텍스트 및 사진 생성을 넘어 완전히 자동화된 프롬프트 기반 워크플로우를 지원합니다. 예를 들어 양방향 AI를 사용하면 "운영 클러스터 재시작"과 같은 자연어를 사용하여 프로세스를 시작하여 AWS ECS 리소스와 상호 작용할 수 있습니다. AI는 당신이 어떤 플랫폼을 사용하고 있는지 또는 실행해야 하는 특정 단계를 알려줄 필요가 없습니다. 예를 들어, Kubiya.ai 에서는 이미 이 기능을 최대한 활용하고 있으며, 이제 고객에게 자연어 프롬프트를 통해 DevOps 워크플로우를 만들 수 있는 옵션을 제공합니다.

이러한 에이전트의 언어 모델은 클라우드 서비스의 어휘에 대해 교육을 받습니다. 클러스터 재시작을 요청하면 에이전트는 도메인 지식을 사용하여 단어를 해석합니다. 예를 들어, "운영" 클러스터가 AWS에서 실행되고 클러스터의 세부 정보를 검색한 다음 올바른 API 호출(예: ecs)을 수행하여 클러스터를 다시 시작해야 합니다.업데이트 서비스 등. 사용자의 단어는 완전히 작동하는 워크플로우로 직접 변환됩니다.

게다가, 양방향 측면은 AI 에이전트가 시간이 지남에 따라 훨씬 더 유능해진다는 것을 의미합니다. 워크플로우를 실행하기 시작하면 에이전트도 워크플로우에 대해 교육하므로 향후 시나리오에 대해 유사한 프로세스를 제안하고 각 워크플로우가 실제로 수행하는 작업을 설명할 수 있습니다.

이 접근 방식을 통해 개발자는 운영 팀을 참여시키지 않고도 더 많은 작업을 수행할 수 있습니다. AI 에이전트는 사람과 인프라 플랫폼 사이를 중재하여 누구나 보안을 손상시키지 않고 일관되게 워크플로우를 시작할 수 있습니다. 워크플로우의 일부로 에이전트는 "새 가상 시스템 추가"를 요청할 때 클라우드 계정, 데이터 센터 영역, 시스템 유형 및 가격 계층을 선택하도록 요청하는 등 관련 시점에 입력을 요구할 수 있습니다."

 

 

생성적 인공지능이 안전하게 작업을 가속화

DevOps 생성 AI 사용 사례는 주요 작업을 가속화하는 동시에 접근성, 보안 및 신뢰성을 향상시킵니다. 또한 개발자는 익숙한 프로세스를 반복적으로 실행하고 결과를 기다리는 대신 새로운 기능을 사용하여 앞으로 나아가는 데 집중할 수 있습니다.

대화를 지속할 수 있을 정도로 지능적인 에이전트는 팀의 다른 구성원처럼 행동합니다. 조직의 보안 및 규정 준수 정책이 완전히 준수되도록 보장하면서 특정 도구에 익숙하지 않은 개발자를 지원합니다. 이러한 보호 조치는 코드베이스를 보호하고 개발자에게 워크플로우를 시작할 수 있다는 확신을 제공합니다. 또한 DevOps 팀과의 상호 작용 횟수를 줄이면 효율성이 향상되어 피드백 루프가 강화됩니다.

생성 인공지능도 정적인 경험이 아닙니다. 상호작용을 분석하여 사용자 의도를 보다 정확하게 설정함에 따라 시간이 지남에 따라 개선됩니다. 예를 들어, 처음 쿼리를 입력할 때 권장 사항이 적합하지 않은 경우 사용자와 다른 사용자가 요청을 반복하고 다른 작업 과정을 수행할 때 권장 사항이 개선될 것으로 예상할 수 있습니다.

AI 에이전트는 인간의 지식이 사라진 것도 지원합니다. 개발자가 관련 단계, 도구 또는 용어에 익숙하지 않은 경우에도 프로세스를 시작할 수 있도록 합니다. AI는 "어느 인스턴스가 실패했습니까?"와 같은 질문의 공백을 메워 프로덕션 클러스터에서 Kubernetes 포드를 참조하고 있는지 확인할 수 있습니다. 이러한 기능을 통해 AI는 인간의 능력을 효과적으로 보완하여 팀에 도움이 되는 힌트를 제공합니다.

 

 

생성형 AI의 경우 ROI가 매우 중요

정기적으로 AI를 사용하는 조직은 에이전트가 요구 사항을 예측하는 데 더 능숙해지기 때문에 최고의 결과를 얻을 수 있습니다. 그러나 워크플로우에 AI를 추가할 때 과도하게 오버하지 않는 것도 중요합니다. 가장 성공적인 채택은 진정한 비즈니스 요구를 해결하는 데 초점이 맞춰질 것입니다. 먼저 프로세스를 평가하여 개발 팀과 운영 팀 간의 병목 현상을 파악한 다음 AI를 통해 이러한 반복적인 사용 사례를 대상으로 합니다.

선택한 솔루션은 더 많은 문제를 해결하거나 사건을 더 빨리 해결하는 등 KPI에 도달하는 데 도움이 됩니다. 그렇지 않으면 AI 에이전트가 제대로 사용되지 않아 자연스러운 작동 절차를 방해하게 됩니다.

 

요약

생성 AI는 오늘날 가장 빠르게 성숙하는 기술 중 하나입니다. 그 결과 ChatGPT는 점점 더 많은 연구원, 소비자 및 조직이 자사의 기능을 탐색하기 시작함에 따라 어느 정도 바이럴을 달성했습니다. DALL-E2는 비슷한 놀라운 결과를 제공했으며, 첫 12개월 동안 120만 명이 넘는 개발자가 GitHub Copilot을 사용했습니다.

이 세 가지 기술은 모두 명확한 혁신적 잠재력을 보여주지만, 장기적으로 가장 큰 혜택을 볼 수 있는 것은 DevOps의 혼합되고 매우 복잡한 워크플로우입니다. 예를 들어 DevOps는 코드 및 구성과 같은 새 자산의 생성과 배포 승인 및 검토 요청과 같은 순차적 프로세스를 결합합니다.

일부 외부 예상과 달리 DevOps용 생성 AI는 일반 파일 스니펫의 단순한 템플릿 작성을 넘어 완전한 워크플로우 자동화를 제공할 것입니다. 간단한 대화 문구를 사용하여 에이전트에게 새 클라우드 리소스 프로비저닝에서 운영 성능 확인에 이르기까지 사용자를 대신하여 특정 작업을 수행하도록 지시할 수 있습니다. 따라서 에이전트는 협업을 개선하고 생산성을 높이며 개발자가 일상적으로 겪는 부담을 줄이는 실시간 양방향 피드백 루프를 제공합니다.