여러 ChatGPT 인스턴스가 함께 작동하여 보안 결함을 찾아 악용합니다

번역기만 돌린 기계 번역으로 오역이 많을 수 있으며 자세한 내용은 원문을 참고하세요.

여러 ChatGPT 인스턴스가 함께 작동하여 보안 결함을 찾아 악용합니다. UIUC에서 테스트한 LLM 팀이 단일 봇과 전용 소프트웨어를 이겼습니다.

GPT-4 인스턴스 팀은 결함의 성격에 대한 설명 없이 제로데이 보안 취약점을 자율적으로 식별하고 악용하기 위해 협력할 수 있습니다. 전문 LLM 팀을 지휘하는 계획 담당자와 함께 하는 이 새로운 개발은 인간 전문가나 전용 소프트웨어보다 더 빠르고 스마트하게 작동합니다.

일리노이 대학 어바나 샴페인(UIUC)의 연구원들은 몇 달 동안 보안 취약점을 해킹하는 AI의 능력을 연구해 왔으며 , 먼저 취약점의 성격에 대한 설명과 함께 제공되었을 때 보안 결함을 침해하는 ChatGPT의 탁월한 능력을 발표했습니다. 이후 새로운 지평이 열리면서 대학의 HPTSA(계층적 계획 및 작업별 에이전트) 시스템이 혁신되어 GPT-4 모델이 팀으로 작동하여 두 배 이상 효과적이게 되었습니다.

6월 연구 및 연구원 Daniel Kang의 블로그 게시물 에 설명된 대로 HPTSA는 LLM 모음을 사용하여 더 높은 성공률로 문제를 해결합니다. 강씨는 이 시스템의 필요성에 대해 다음과 같이 설명합니다. "단일 AI 에이전트는 엄청나게 강력하지만 기존 LLM 기능으로 인해 제한됩니다. 예를 들어 AI 에이전트가 한 가지 경로(예: XSS를 활용하려고 시도하는 경우)로 이동하는 경우 에이전트가 역추적하여 또 다른 취약점을 악용하려고 시도합니다." 강씨는 "게다가 LLM은 단일 작업에 집중할 때 가장 좋은 성과를 냅니다."라고 말합니다.

플래너 에이전트는 웹사이트나 애플리케이션을 조사하여 어떤 공격을 시도할지 결정하고 이를 작업별 에이전트 LLM에 위임하는 관리자에게 할당합니다. 이 시스템은 복잡하기는 하지만 팀의 이전 연구와 심지어 오픈 소스 취약점 검색 소프트웨어보다 크게 개선되었습니다. 15개 보안 취약점에 대한 시험에서 HPTSA 방법은 15개 취약점 중 8개를 성공적으로 악용하여 15개 중 3개만 얻을 수 있는 단일 GPT-4 에이전트를 제치고 단일 취약점을 악용할 수 없는 ZAP 및 MetaSploit 소프트웨어를 파괴했습니다. .

HPTSA는 프롬프트에서 취약점에 대한 설명을 제공받은 GPT-4 에이전트에 의해서만 패배했으며 15개 중 11개의 성공을 거두었습니다. 이 에이전트는 UIUC의 4월 원래 연구의 정점으로, 속도와 효율성 면에서 인간 해커보다 우수한 것으로 밝혀졌습니다.

OpenAI는 논문 저자에게 이러한 실험이나 첫 번째 실험에 사용한 프롬프트를 공개하지 말라고 구체적으로 요청했습니다. 저자는 동의했으며 "요청 시"에만 프롬프트를 제공할 것이라고 말했습니다. GPT-4는 계속해서 연구팀이 선택한 LLM입니다. 경쟁사 LLM을 사용한 이전 테스트에서는 이러한 기능이 심각하게 부족한 것으로 나타났으며 업데이트된 GPT-4o 는 품질면에서 GPT-4보다 크게 낫지 않습니다.