최신정보

Microsoft Azure AI, LLM 조작 방지를 위한 'Prompt Shields' 공개

컨텐츠 정보

  • 201 조회

본문

Microsoft Azure AI, LLM 조작 방지를 위한 'Prompt Shields' 공개

 

Microsoft는 오늘 Azure OpenAI 서비스 및 Azure AI 콘텐츠 안전 플랫폼에 대한 주요 보안 개선 사항을 발표했습니다 . "Prompt Shields"라고 불리는 이 새로운 기능은 LLM(대형 언어 모델)을 표적으로 삼아 점점 더 정교해지는 공격에 대한 강력한 방어 기능을 제공합니다.

 

Prompt Shields는 다음을 방지합니다.

 

직접 공격:  탈옥 공격이라고도 하는 이러한 시도는 LLM에 안전 프로토콜을 무시하거나 악의적인 작업을 수행하도록 명시적으로 지시합니다.


간접 공격:  이러한 공격은 LLM을 속여 바람직하지 않은 동작을 하도록 속이는 것을 목표로 겉으로 보기에는 정상적인 텍스트 내에 유해한 지침을 미묘하게 삽입합니다.


Prompt Shields는 Azure OpenAI Service 콘텐츠 필터와 통합되어 있으며 Azure AI Content Safety에서 사용할 수 있습니다. 고급 기계 학습 알고리즘과 자연어 처리 덕분에 Prompt Shields는 사용자 프롬프트 및 타사 데이터에서 잠재적인 위협을 식별하고 무력화할 수 있습니다.

 

주목: 새로운 방어 기술

Microsoft는 또한 간접 공격을 방지하기 위해 설계된 전문적인 프롬프트 엔지니어링 접근 방식인 "Spotlighting"을 도입했습니다. 구분 및 데이터 표시와 같은 스포트라이트 기술은 LLM이 합법적인 지침과 잠재적으로 유해한 내장 명령을 명확하게 구분하는 데 도움이 됩니다.

 

유효성

Prompt Shields는 현재 Azure AI 콘텐츠 안전의 일부로 공개 미리 보기로 제공되며 4월 1일에 Azure OpenAI 서비스 내에서 사용할 수 있습니다. 가까운 시일 내에 Azure AI Studio로의 통합이 계획되어 있습니다.

관련자료


댓글 0
등록된 댓글이 없습니다.
Total 94 / 1 Page
RSS
번호
제목
이름

Member Rank