자율 AI 환경에서 수동 패킷 액세스와 통합 네트워크 가시성이 필수적인 이유는 무엇일까요?
몇 주 전만 해도 위의 제목은 극적인 비유처럼 들렸을지 모릅니다. 하지만 최근 공개된 두 건의 사건으로 인해 이 제목은 불편할 정도로 문자 그대로의 현실이 되었습니다.
두 건의 사건, 두 가지 매우 다른 공격 경로
OpenAI/Hugging Face 사건에서, 사이버 보안 평가에 사용된 모델들이 패키지 레지스트리 캐시 프록시에서 이전에 알려지지 않았던 취약점을 발견하고 악용했습니다. 이 모델들은 개방형 인터넷 접근 권한을 획득하고, 권한을 상승시키고, 연구 환경 내에서 횡적으로 이동하며, 궁극적으로 벤치마크 솔루션을 구현하기 위해 Hugging Face 인프라를 손상시켰습니다.
영국 AI 보안 연구소(AISI)가 공개한 또 다른 사건은 다른 양상을 보였습니다. 에이전트들에게 의도적으로 인터넷 접속 권한을 부여하고 사이버 보안 조치를 비활성화한 상태로 테스트했습니다. 가장 심각한 단계에서는 에이전트가 실제 오픈 소스 프로젝트에 악성 코드를 삽입하려 시도하고, 가짜 신분을 만들고, 인간 관리자에게 영향력을 행사하려 하고, 유해한 콘텐츠가 담긴 메시지와 파일을 전송하고, Tor를 사용하고, 다른 AI 코딩 도구를 대상으로 하는 프롬프트 주입 명령어를 심어놓았습니다. 인간 검토자가 악성 행위를 차단했으며, AISI는 이로 인한 실제 피해는 확인되지 않았다고 밝혔습니다.
두 사례는 신중하게 해석해야 합니다. 둘 다 예외적인 평가 조건에서 발생했으며 일반적인 공개 배포를 나타내는 것은 아닙니다. 하지만 두 사례를 통해 자율 시스템이 나아가야 할 명확한 방향을 알 수 있습니다. 자율 시스템은 장기적인 목표를 추구하고, 기술적 기만과 결합하며, 통제된 작업에서 실제 상황으로 나아갈 수 있습니다. network및 서비스.
The network 의도가 행동으로 옮겨지는 곳입니다.
AI 에이전트는 불투명한 모델 내에서 결론을 도출할 수 있지만, 독립적으로 행동할 수는 없습니다. 저장소에 접근하고, 자격 증명을 사용하고, DNS 쿼리를 수행하고, API를 호출하고, 횡적 이동을 하고, 터널을 설정하고, 데이터를 전송하려면 시스템과 상호 작용해야 합니다. networks.
그러한 활동은 연결 흐름, DNS 조회, 출발지-목적지 관계, 인증서, 프로토콜 메타데이터, 타임라인, 데이터 볼륨, 실패 시도 및 통신 패턴의 변화와 같은 관찰 가능한 흔적을 남깁니다.
애플리케이션의 페이로드가 TLS로 보호되더라도 주변 환경은 여전히 취약합니다. network 행동은 여전히 귀중한 맥락 정보를 제공합니다.
완전한 콘텐츠 검사를 위해서는 승인된 TLS 투명성 또는 엔드포인트, 프록시 및 SaaS 서비스에서 제공되는 추가 원격 측정 데이터가 필요합니다. 패킷 수준의 투명성은 일반적인 평문 투명성과 혼동해서는 안 됩니다.
이것이 network 이는 독립적인 진실의 원천이 될 수 있습니다. 에이전트가 실제로 수행한 작업을 기록하며, 단순히 지시받은 내용이나 자체 로그에 기록된 내용만을 반영하는 것이 아닙니다.
수동적 접근: 교통 흐름에 참여하지 않고 보는 것
첫 번째 요구 사항은 관련 패킷에 대한 신뢰할 수 있는 접근입니다. 획득 계층에서 NEOX는 패킷레이븐 주요 관측 지점에서 수동적인 대역 외 액세스를 제공합니다.
- 모니터링 대상 링크에 IP 주소가 없습니다.
- 모니터링 대상 링크에 MAC 주소가 없습니다.
- 운영 트래픽에 패킷 주입 없음
- 모니터링에 적극적으로 참여하지 않음 network
- 선택된 관측 지점에서 전체 패킷 사본
이러한 독립성은 매우 중요합니다. 모니터링 대상 워크로드는 투명성 계층과 상호 작용할 필요가 없으며, 에이전트는 단순히 로컬 로그를 억제하여 흔적을 숨길 수 없습니다. network.
안정적인 인라인 액세스가 필요한 경우, 패킷호크 이는 적절한 우회 아키텍처를 제공하며, PacketRaven은 수동 관찰을 위한 기반으로 남아 있습니다.
NEOX 통합 네트워크 가시성 유니버스
패킷 수집만으로는 충분하지 않습니다. 데이터 트래픽은 통합된 구조로 제어, 분산, 분석, 저장 및 관리되어야 합니다. 바로 이 부분에서 더욱 포괄적인 NEOX 플랫폼이 중요한 역할을 합니다.
패킷라이언, 패킷타이거 패킷울프 관련 에이전트, 샌드박스, DNS, 프록시, 서버 및 송신 트래픽을 집계, 필터링, 처리하여 적절한 모니터링 및 보안 도구로 전달합니다.
패킷올빼미 추가 network보안 가시성을 기반으로 팀이 알려진 공격 기법, 의심스러운 통신, 스캐닝 및 측면 이동을 식별할 수 있도록 지원합니다.
패킷팔콘 패킷그리즐리 조사 및 포렌식 재구성을 위해 패킷 수준의 증거를 보존합니다. 제 동료가 말했듯이, Matthias Lichtenegger 최근에 설명된 바와 같이 PacketFalcon은 독립적인 역할을 수행할 수 있습니다. network 예방 및 격리 조치가 실패할 경우 "비행 기록 장치"가 작동합니다.
패킷디렉터 이 플랫폼은 가시성 플랫폼 전반에 걸쳐 중앙 집중식 관리, 추적성 및 운영 감독 기능을 제공합니다.
가시성은 단지 첫걸음일 뿐입니다.
OpenAI/Hugging Face 및 AISI 사건은 다음 과제를 드러냅니다. 개별적인 관점을 갖는 것. network 조치를 파악하는 것은 중요하지만, 방어자는 궁극적으로 그러한 조치가 여러 호스트, 신원, 서비스 및 시간대에 걸쳐 하나의 일관된 사건에 속하는지 여부를 이해해야 합니다.
샌드박스 또는 프록시 악용, 권한 상승, 자격 증명 사용, 측면 이동, 외부 터널링 및 HTTPS/API 통신이 개별 경고로 나타나는 대신 하나의 공격 체인으로 연결될 수 있습니까?
사회공학적 시도, 악의적인 저장소 변경, Tor 활동 및 외부 파일 전송을 하나의 조사로 처리할 수 있을까요?
다음 단계는 가시성과 패킷 증거에서 탐지, 상관관계 분석, 그리고 연계 공격 시나리오로 나아가는 것입니다. 이 부분은 별도의 기사로 다룰 가치가 있습니다.
테이크 아웃
AI 에이전트는 새로운 개념일 수 있지만, network 그들이 의존하는 행동 방식은 그렇지 않습니다. 그들은 여전히 프로토콜, ID, 서비스, 저장소 및 인프라를 통한 경로를 사용합니다. 수동적이고 독립적인 가시성 아키텍처를 사용하면 이러한 행동을 관찰하고 법적으로 방어할 수 있게 됩니다.
NEOX Unified Network Visibility는 수동 패킷 액세스, 지능형 집계 및 처리와 같은 기반을 제공합니다. network 보안 가시성, 패킷 캡처 및 중앙 집중식 운영.
박사 Stefan Diepolder NEOX의 솔루션 엔지니어링 총괄 책임자인 스테판은 통신, 보안 및 IT 분야에서 수십 년간 쌓아온 리더십 경험을 보유하고 있습니다. 그는 기술 조직 혁신, 고객 중심 팀 구축, 복잡한 아이디어를 확장 가능한 솔루션으로 구현하는 데 탁월한 실적을 자랑합니다. NEOX에서 스테판은 솔루션 엔지니어링 및 사전 판매를 이끌며 영업, 개발 및 제공 팀과 긴밀히 협력하여 고객 요구 사항을 NEOX의 시장 영향력 강화와 고객 성공에 기여하는 고부가가치 아키텍처, 개념 증명(PoC) 및 솔루션 전략으로 전환하고 있습니다.