“AI가 잘못 판단해도 시스템은 버텨야”⋯엔비디아가 제시한 보안 원칙

엔비디아가 AI 에이전트 시대의 보안 원칙으로 ‘강제 가능한 통제’와 ‘검증 가능한 증거’를 제시했다. AI가 잘못 판단하거나 악성 명령에 노출되더라도 파일과 네트워크, 시스템 접근 권한은 에이전트의 추론과 별개로 제한돼야 한다는 설명이다.엔비디아는 AI 보안을 단순한 모델 성능이나 프롬프트 설계 문제가 아니라 엔지니어링 문제로 규정했다. 명확한 보안 요구사항과 통제 수단, 책임 주체를 정하고 보호 장치가 실제로 작동했다는 증거까지 확보해야 한다는 접근이다.AI 에이전트는 모델뿐 아니라 컨텍스트와 도구, 워크플로우를 구성하는 하네스