외부 문서를 AI에 붙여 넣을 때 숨은 명령 차단하기
기사, 이메일, PDF, 고객 문서, 공개 저장소를 AI로 요약하거나 분류하려는 분이라면 원문을 신뢰하지 말고 검사 대상 데이터로 다뤄야 합니다. 작업 지시와 원문을 분리하고, 문서 안의 명령은 실행하지 않도록 제한한 뒤 필요한 구간만 입력하세요. 다만 이런 문구만으로 공격을 완전히 막을 수는 없으므로 민감정보 제거, 외부 기능…
프롬프트 인젝션
기사, 이메일, PDF, 고객 문서, 공개 저장소를 AI로 요약하거나 분류하려는 분이라면 원문을 신뢰하지 말고 검사 대상 데이터로 다뤄야 합니다. 작업 지시와 원문을 분리하고, 문서 안의 명령은 실행하지 않도록 제한한 뒤 필요한 구간만 입력하세요. 다만 이런 문구만으로 공격을 완전히 막을 수는 없으므로 민감정보 제거, 외부 기능…