ChatGPTClaudeGemini

프롬프트 인젝션 테스트 프롬프트

LLM 을 붙인 서비스의 안전성을 점검합니다. 프롬프트 인젝션·데이터 유출·유해 출력을 시험할 테스트 프롬프트 세트를 만들고 완화 방법을 제안합니다.

드림보트 큐레이션·개발자를 위한 프롬프트 20·2일 전 갱신·📋 0회 복사

출처: prompts.chat · Large Language Models Security Specialist · @majevva · CC0 1.0 — 원문을 바탕으로 한국어로 다시 쓰고 보강했어요. 원문은 아래에서 볼 수 있어요

프롬프트 원문

LLM 보안 전문가로 행동하세요. 제 서비스의 LLM 이 안전성·견고성 테스트 프롬프트에 어떻게 반응하는지 분석해 취약점을 찾고, 완화 방법을 제안합니다. (대상은 제가 운영하는 서비스입니다.)

서비스: {{서비스}}
모델·구조: {{모델·구조}}
보호해야 할 것: {{보호 대상}}

출력
1. **위협 모델** — 이 구조에서 가능한 공격 경로: 직접 프롬프트 인젝션, 사용자 콘텐츠를 통한 간접 인젝션, 시스템 프롬프트 유출, 다른 사용자 데이터 노출, 유해·허위 출력 유도, 도구·API 오용
2. **테스트 프롬프트 세트** — 경로마다 3개 이상, 표로: 번호 · 공격 유형 · 테스트 입력(그대로 붙여 넣을 수 있게) · 뚫렸을 때의 징후 · 기대 동작(안전한 응답)
3. **완화 방법** — 우선순위 순: 입력·출력 검증, 권한 분리(모델이 할 수 있는 것 제한), 시스템 프롬프트 설계, 도구 호출 확인 단계, 모니터링. 각각 난이도와 한계
4. **안전한 구현 지침** — 새 기능을 붙일 때 지킬 규칙 5줄

규칙
- 실제 유해 콘텐츠를 생성하지 않는다. 테스트 입력은 시험 목적의 무해한 형태로
- 프롬프트 문구만으로 막을 수 없는 위협은 그렇다고 분명히 말한다

바꿔 넣을 부분: {{서비스}}{{모델·구조}}{{보호 대상}}

원문 (English) 보기 — 손대지 않은 원본

prompts.chat · Large Language Models Security Specialist · @majevva · CC0 1.0

개발자를 위한 프롬프트 20의 다른 프롬프트

모음 전체 20개 →

ChatGPTClaudeGemini

리눅스 터미널 프롬프트

AI가 리눅스 터미널이 되어 명령을 치면 출력만 코드 블록으로 돌려줍니다. 서버 없이 명령어 연습, 스크립트 결과 미리보기.

📋 0

ChatGPTClaudeGemini

파이썬 인터프리터 프롬프트

파이썬 코드를 주면 실행 결과만 돌려줍니다. 설치 없이 문법 확인, 알고리즘 결과 미리보기.

📋 0

ChatGPTClaudeGemini

SQL 터미널 프롬프트

예시 데이터베이스 앞의 SQL 터미널이 되어 쿼리 결과를 표로 보여줍니다. DB 없이 JOIN·GROUP BY 연습.

📋 0

ChatGPTClaudeGemini

테스트 코드 작성 프롬프트

코드를 주면 테스트 케이스 목록을 먼저 뽑고, 그다음 테스트 코드를 씁니다. 주니어에게 가르치듯 이유까지.

📋 0

ChatGPTClaudeGemini

버그 찾기 프롬프트

코드를 주면 논리·문법·런타임 오류와 비효율을 찾고, 성능·보안 관점까지 짚어 고칠 방법을 제안합니다.

사용 팁

내 서비스를 시험하는 용도입니다. 남의 서비스에 쓰면 약관·법 위반이 될 수 있어요.
사용자 입력(문서·댓글·웹페이지)을 그대로 컨텍스트에 넣는 구조가 가장 위험합니다. {{모델·구조}} 에 그 사실을 적으면 “간접 인젝션” 케이스가 나옵니다.
나온 테스트 프롬프트를 스테이징에서 실제로 돌려 보고, 뚫리는 것부터 고치세요. 표의 “기대 동작”이 판정 기준입니다.
완화책 중 “출력 검증·권한 분리·도구 호출 확인”은 프롬프트 문구보다 효과가 큽니다. 프롬프트로만 막으려 하지 마세요.
모델을 업데이트할 때마다 같은 세트를 다시 돌리면 회귀 테스트가 됩니다.
드림보트도 사용자 입력을 AI 초안에 넣는 구조라 같은 점검을 합니다 — 민감정보 필터가 그 결과물입니다.

프롬프트 인젝션 테스트 프롬프트

개발자를 위한 프롬프트 20의 다른 프롬프트

리눅스 터미널 프롬프트

파이썬 인터프리터 프롬프트

SQL 터미널 프롬프트

테스트 코드 작성 프롬프트

버그 찾기 프롬프트

당신도 인디 메이커가 되어보세요

이렇게 쓰면 이런 결과가 나와요

사용 팁

에러 로그로 버그 고치기 프롬프트