AI 보안에 대한 Cisco의 ‘급진적인’ 접근 방식

Cisco는 새로운 AI 방어 솔루션을 통해 AI 보안에 대한 획기적인 접근 방식을 취하고 있습니다.

일요일 Rowan Cheung과의 독점 인터뷰에서 런다운 AICisco 수석 부사장 겸 CPO인 Jeetu Patel은 AI Defense가 “기존 보안 솔루션이 처리할 수 없는 과제를 해결하기 위해 급진적인 접근 방식을 취하고 있다”고 말했습니다.

지난주 발표된 AI 디펜스(AI Defense)는 AI 애플리케이션을 개발 및 배포할 때 발생하는 위험을 해결하고 조직에서 AI가 사용되는 위치를 식별하는 것을 목표로 합니다.

AI Defense는 다음과 같은 기능을 통해 공격으로부터 AI 시스템을 보호하고 플랫폼 전체에서 모델 동작을 보호할 수 있습니다.

• 퍼블릭 및 프라이빗 클라우드 전반에서 섀도우 및 승인된 AI 애플리케이션 탐지
• 수백 가지의 잠재적인 안전 및 보안 문제에 대한 AI 모델의 자동 테스트 그리고
• 지속적인 검증을 통해 신속한 주입, 서비스 거부, 민감한 데이터 유출 등 잠재적인 안전 및 보안 위협으로부터 보호합니다.

또한 이 솔루션을 통해 보안 팀은 직원이 사용하는 AI 앱에 대한 포괄적인 보기를 제공하고, 승인되지 않은 AI 도구에 대한 액세스를 제한하는 정책을 만들고, 위협 및 기밀 데이터 손실에 대한 보호 조치를 구현하는 동시에 규정 준수를 보장함으로써 조직의 데이터를 더 잘 보호할 수 있습니다.

기술 서비스 회사의 AI 및 사이버 혁신 부문 글로벌 책임자인 Kent Noyes는 “AI의 채택으로 기업은 기존의 사이버 보안 솔루션이 해결하지 못하는 새로운 위험에 노출됩니다.”라고 말했습니다. 월드와이드 기술 세인트 루이스에서는 성명을 통해 이렇게 말했습니다. “Cisco AI Defense는 기업의 AI 자산에 대한 완전한 가시성과 진화하는 위협에 대한 보호를 제공함으로써 AI 보안의 중요한 도약을 의미합니다.”

AI 보안을 위한 긍정적인 발걸음

MJ Kaufmann, 저자이자 강사 오라일리 미디어보스턴에 있는 기술 전문가를 위한 학습 플랫폼 운영자는 기존 사이버 보안 솔루션에 대한 Cisco의 분석을 확인했습니다. 그녀는 TechNewsWorld에 “Cisco가 옳습니다.”라고 말했습니다. “기존 도구는 신속한 주입 공격, 데이터 유출, 무단 모델 작업 등 AI 시스템에 대한 많은 운영 기반 공격을 해결하지 못합니다.”

“구현자는 이 문제를 해결하기 위해 조치를 취하고 타겟 솔루션을 구현해야 합니다.”라고 그녀는 덧붙였습니다.

Cisco의 설립자이자 수석 분석가인 Jack E. Gold는 Cisco가 이러한 종류의 솔루션을 제공할 수 있는 독특한 위치에 있다고 말했습니다. J.골드 어소시에이츠매사추세츠주 노스보로에 있는 IT 자문 회사입니다. “그 이유는 보호하려는 AI 기능을 강화하는 데 사용할 수 있는 네트워킹 원격 측정 데이터가 많기 때문입니다.”라고 그는 TechNewsWorld에 말했습니다.

Cisco는 또한 온프레미스, 클라우드, 멀티 클라우드 등의 플랫폼과 모델 전반에 걸쳐 보안을 제공하기를 원한다고 덧붙였습니다.

“얼마나 많은 기업이 이를 채택하는지 보는 것은 흥미로울 것입니다.”라고 그는 말했습니다. “Cisco는 일반적으로 기업들이 이를 효과적으로 보고 있지 않기 때문에 이러한 종류의 기능을 통해 확실히 올바른 방향으로 나아가고 있습니다.”

AI 보안에는 다중 모델, 다중 클라우드 보호를 제공하는 것이 중요합니다.

“다중 모델, 다중 클라우드 AI 솔루션은 일관되지 않은 보안 프로토콜, 다중 데이터 전송 지점, 모니터링 및 사고 대응 조정 문제로 인해 서로 다른 환경에 복잡성을 도입함으로써 조직의 공격 표면을 확장합니다. 이러한 요소는 위협 행위자가 더 쉽게 악용할 수 있는 요소입니다.” Patricia Thaine, CEO 겸 공동 창업자 프라이빗 AI토론토의 데이터 보안 및 개인 정보 보호 회사가 TechNewsWorld에 말했습니다.

제한 사항에 관하여

기존 인프라 메시를 통해 네트워크 계층에 보안 제어를 내장하는 Cisco의 접근 방식은 가능성을 보여주지만 우려되는 한계도 드러낸다고 CEO이자 창립자인 Dev Nag는 말했습니다. 쿼리팔샌프란시스코에 본사를 둔 고객 지원 챗봇입니다.

그는 TechNewsWorld에 “네트워크 수준 가시성은 귀중한 원격 측정을 제공하지만 네트워크 모니터링만으로는 탐지할 수 없는 애플리케이션 및 모델 계층에서 AI 관련 공격이 많이 발생합니다.”라고 말했습니다.

그는 “지난해 Robust Intelligence를 인수함으로써 Cisco는 모델 검증 및 런타임 보호와 관련된 중요한 기능을 확보하게 되었지만, Cisco가 네트워크 통합에 초점을 맞추면 실제 AI 개발 수명주기를 확보하는 데 공백이 생길 수 있습니다.”라고 말했습니다. “파이프라인 보안 교육, 공급망 검증 모델, 가드레일 미세 조정과 같은 중요한 영역에는 Cisco의 기존 네트워크 중심 패러다임을 뛰어넘는 MLOps 도구와의 긴밀한 통합이 필요합니다.”

“문제가 되는 코드가 공개적으로 보이는 오픈 소스 공급망 공격에서 우리가 보아온 골칫거리를 생각해 보십시오.”라고 그는 덧붙였습니다. “모델 공급망 공격은 비교하여 탐지하는 것이 거의 불가능합니다.”

Nag는 구현 관점에서 볼 때 Cisco AI Defense는 기본적으로 일부 AI 관련 모니터링 기능을 위에 계층화하여 기존 보안 제품을 다시 패키징한 것으로 보인다고 지적했습니다.

“광범위한 배포 공간은 전사적 가시성에 대한 이점을 제공하지만 현재로서는 이 솔루션이 혁신적이라기보다 반응성이 더 높다고 느껴집니다.”라고 그는 말했습니다. “이미 Cisco 보안 제품을 사용하고 있으며 AI 여정을 시작하는 일부 조직의 경우 Cisco AI Defense가 유용한 제어 기능을 제공할 수 있지만, 고급 AI 기능을 추구하는 조직에는 머신 러닝 시스템용으로 특별히 구축된 보다 정교한 보안 아키텍처가 필요할 것입니다.”

많은 조직에서 AI 위험을 완화하려면 민감한 정보를 이끌어내는 모델 질문 방법을 이해하는 인간 침투 테스터가 필요하다고 CEO인 Karen Walsh는 덧붙였습니다. 알레그로 솔루션코네티컷 주 웨스트 하트퍼드에 있는 사이버 보안 컨설팅 회사입니다.

“Cisco의 릴리스는 모델별 가드레일을 생성하는 기능이 이러한 위험을 완화하여 AI가 잘못된 데이터에 대해 학습하고, 악의적인 요청에 응답하고, 의도하지 않은 정보를 공유하는 것을 방지할 것임을 시사합니다.”라고 그녀는 TechNewsWorld에 말했습니다. “적어도 우리는 이것이 기본 문제를 식별하고 완화하여 침투 테스터가 보다 정교한 AI 손상 전략에 집중할 수 있기를 바랄 수 있습니다.”

AGI로 가는 과정에서 중요한 필요성

Kevin Okemwa, 글쓰기 윈도우 센트럴주요 AI 연구소가 인간 지능을 복제하는 진정한 인공 일반 지능(AGI) 생산에 가까워지고 있기 때문에 AI Defense의 출시가 이보다 더 좋은 시기에 이루어질 수 없다고 언급합니다.

보안 인식 옹호자인 James McQuiggan은 “AGI가 해가 갈수록 가까워질수록 위험은 더 커질 수 없습니다”라고 말했습니다. 노비4플로리다주 클리어워터에 있는 보안 인식 교육 제공업체입니다.

그는 TechNewsWorld에 “직관과 지향성을 갖고 인간처럼 생각하는 AGI의 능력은 산업에 혁명을 일으킬 수 있지만 광범위한 결과를 초래할 수 있는 위험도 초래합니다”라고 말했습니다. “강력한 AI 보안 솔루션은 AGI가 책임감 있게 발전하여 잘못된 의사 결정이나 의도하지 않은 결과와 같은 위험을 최소화하도록 보장합니다.”

그는 “AI 보안은 단지 ‘있으면 좋은 것’이거나 앞으로 몇 년 동안 생각해 볼 만한 것이 아닙니다.”라고 덧붙였습니다. “AGI로 나아가는 데 있어 이는 매우 중요합니다.”

실존적 파멸?

Okemwa는 또한 다음과 같이 썼습니다. “AI 방어는 올바른 방향으로 나아가는 단계이지만 조직과 주요 AI 연구소 전반에 걸쳐 채택될지는 아직 미지수입니다. 흥미롭게도 OpenAI CEO는 [Sam Altman] 인류에 대한 기술의 위협을 인정하지만 AI가 AI가 실존적 파멸을 초래하는 것을 방지할 만큼 충분히 똑똑할 것이라고 믿습니다.”

“저는 스스로 규제하고 재앙적인 결과를 예방하는 AI의 능력에 대해 어느 정도 낙관론을 봅니다. 하지만 채택 과정에서 첨단 AI 시스템을 인간의 가치에 맞추는 것이 여전히 필수라기보다는 나중에 생각해야 한다는 점도 깨달았습니다.”라고 최고 위험 및 보안 책임자인 Adam Ennamli는 말했습니다. 캐나다 중앙은행은 TechNewsWorld에 말했습니다.

“AI가 자체적으로 실존적 위험을 해결할 것이라는 개념은 위험할 정도로 낙관적입니다. 이는 이미 유해한 콘텐츠를 생성하고 보안 통제를 우회하도록 조작될 수 있는 현재 AI 시스템에서 알 수 있듯이 말입니다.”라고 현장 CTO인 Stephen Kowski가 덧붙였습니다. 슬래시다음캘리포니아주 플레젠튼에 위치한 컴퓨터 및 네트워크 보안 회사입니다.

그는 TechNewsWorld에 “AI 시스템은 근본적으로 인간의 복지에 대한 본질적인 욕구가 아니라 훈련 데이터와 프로그래밍된 목표에 의해 구동되기 때문에 기술적 보호 장치와 인간의 감독이 여전히 필수적입니다.”라고 말했습니다.

Gold는 “인간은 꽤 창의적입니다.”라고 덧붙였습니다. “나는 이 종말론적 말도 안되는 말을 받아들이지 않습니다. AI가 우리에게 적합하고 안전하게 작동할 수 있는 방법을 찾아보겠습니다. 도중에 문제가 없을 것이라는 말은 아니지만, 우리 모두가 ‘매트릭스’로 끝나지는 않을 것입니다.”