AI NPCs의 신속한 주입: 게임 개발자를 위한 안전 검사표

AI의 NPC 위협 모델 구축

플레이어가 가능한 결정으로 시작하면 기술의 소설이 아닙니다. 지도 플레이어 텍스트 및 음성, 제작자 프롬프트, 시스템 지침, 검색 문서, 메모리, 모델 출력, 도구, 게임 상태, 로그 및 외부 서비스 별도의 신뢰 경계로. 이 framing은 출시 주간 흥분 페이드 후 유용한 섹션을 유지하므로 독자는 나중에 모델, 엔진 버전, 브라우저 또는 플랫폼 규칙과 같은 결정을 평가 할 수 있기 때문입니다.

OWASP 신속한 주입 안내는 가이드의 이 부분에 대한 1 차적인 증거를 제공합니다. 문서화 된 기능 또는 공공 디자인 컨텍스트를 설정; 그것은 보편적 인 품질, 플레이어 선호, 생산 읽음 또는 Elseland의 보증을 증명하지 않습니다. 배송 결정에 대한 청구에 의존하기 전에이 문서의 날짜 노트와 함께 OWASP 신속한 주입 지침을 읽으십시오.

실제 구현은 입력, 출력, 실패 상태 및 승인에 대한 서면 계약으로 시작합니다. 각 경계를 위해, 입력할 수 있는 문서, 통제하는, 최대 충격, 검증, 보유, 감시 및 경계가 실패할 때 안전한 행동. 관련 라이브 생성 된 AI 게임 체크리스트는 워크플로우에 두 번째 Elseland 관점을 제공합니다. 따라서 팀은 현재 주제에서 콘크리트 생산으로 이동하거나이 페이지를 격리 한 답변으로 치료하지 않고 상황에 맞게 동작 할 수 있습니다.

주요 실패 모드는 언젠가 될 수 있습니다: 감옥 명시 적어 구문에만 초점을 맞추는 팀은 lore, 수입 된 파일, 메모리 요약, 인코딩 된 텍스트 또는 다른 플레이어의 콘텐츠를 가져올 수 있습니다. 테스트 전에 예상 결과를 기록, 실제로 일어난 일을 캡처, 그리고 틈이 허용 여부 결정, 해결, 또는 큰 충분히 접근을 거부. 그 기록없이 광택 출력은 데모입니다. 재현 가능한 결정으로 검토 된 출력은 생산 증거가 될 수 있습니다.

• 예상된 신뢰 경계를 정의하기 전에 생성하거나 어떤 결과를 통합.
• 정확한 입력, 버전, 설정, 출력 및 결정을 내립니다.
• 1개의 정상적인 케이스, 1개의 경계표 및 1개의 deliberate 실패 케이스를 시험하십시오.
• 도구 또는 플랫폼 업데이트 후 개정, 승인 및 재 검사에 대한 이름을 지정합니다.

별도의 지침, 데이터 및 플레이어 역할극

이 유용한 질문은 기능이 데모에서 인상적 인지 여부는 아니지만 팀이 생산에서 제어 할 수 있는지 여부. 모델은 시스템 규칙과 도구 정책이 대화, 검색 된 소설, 인용 된 프롬프트 또는 문자의 플레이어 청구 권한을 다시 정의 할 수있는 안정적인 계층 구조가 필요합니다. 이 framing은 출시 주간 흥분 페이드 후 유용한 섹션을 유지하므로 독자는 나중에 모델, 엔진 버전, 브라우저 또는 플랫폼 규칙과 같은 결정을 평가 할 수 있기 때문입니다.

NIST AI의 위험 관리 프레임 워크는 가이드의이 부분에 대한 주요 증거를 제공합니다. 문서화 된 기능 또는 공공 디자인 컨텍스트를 설정; 그것은 보편적 인 품질, 플레이어 선호, 생산 읽음 또는 Elseland의 보증을 증명하지 않습니다. NIST AI 리스크 관리 프레임워크를 읽어 보세요.

전체 게임이나 콘텐츠 라이브러리를 통해 워크플로를 확장하기 전에 한 개의 좁은 수직 슬라이딩을 구축하십시오. 특정 메시지 및 데이터 채널을 사용하여, delimit untrusted content, 도구 실행 근처의 중요한 제약을 반복하고, narrative 입력으로 in-world 명령을 치료하는 문자를 훈련합니다. 재생 가능한 상호 작용에서 지상에 놓인 권고를 지키기 위하여, AI 게임 플랫폼 수집은 독자가 현재 예가 목표, 국가 변화, 의견 및 정체되는 데모에서 아이디어를 혼자 배양하는 대신 회복하는 방법을 비교합니다.

주요 실패 모드는 언젠가 될 수 있습니다: 자연 언어 혼합은 lore 또는 quest 텍스트와 같은 악의적인 지침을 만들, 특히 NPC가 도움이 될 수 있도록 설계 될 때 특히. 테스트 전에 예상 결과를 기록, 실제로 일어난 일을 캡처, 그리고 틈이 허용 여부 결정, 해결, 또는 큰 충분히 접근을 거부. 그 기록없이 광택 출력은 데모입니다. 재현 가능한 결정으로 검토 된 출력은 생산 증거가 될 수 있습니다.

• 예상된 도구 권한을 정의하기 전에 생성하거나 어떤 결과를 통합.
• 정확한 입력, 버전, 설정, 출력 및 결정을 내립니다.
• 1개의 정상적인 케이스, 1개의 경계표 및 1개의 deliberate 실패 케이스를 시험하십시오.
• 도구 또는 플랫폼 업데이트 후 개정, 승인 및 재 검사에 대한 이름을 지정합니다.

AI NPC를 제공하십시오 Least Possible Privilege 도구

공적 예제를 기능 경계의 증거로 치료, 다음 게임 디자인 요구 사항에 경계를 번역. 퀘스트 감적은 자격과 요청을 확인해야 할 수 있습니다. 일반적인 재고, 통화, 통신, 모뎀, 또는 데이터베이스 액세스가 필요하지 않습니다. 이 framing은 출시 주간 흥분 페이드 후 유용한 섹션을 유지하므로 독자는 나중에 모델, 엔진 버전, 브라우저 또는 플랫폼 규칙과 같은 결정을 평가 할 수 있기 때문입니다.

Fortnite 대화 규칙과 건축은 가이드의 이 부분에 대한 1 차적인 증거를 제공합니다. 문서화 된 기능 또는 공공 디자인 컨텍스트를 설정; 그것은 보편적 인 품질, 플레이어 선호, 생산 읽음 또는 Elseland의 보증을 증명하지 않습니다. Fortnite 대화 규칙과 건축가를 읽어보세요. 이 기사의 날짜를 따라 배송 결정에 대한 청구를 재개하기 전에.

검토 게이트 관찰 가능: 다른 개발자는 저장된 빌드 및 소스 레코드에서 결과를 재현 할 수 있어야합니다. 작은 유형의 도구, 수당 인수, ID 및 상태 서버 측, 모자 가치 및 빈도를 실행하고, 반대 가능한 선수 직면 효과에 대한 확인을 필요로한다. 관련 AI 게임 컬렉션은 워크플로우의 두 번째 Elseland 관점을 제공합니다. 따라서 팀은 현재 주제에서 콘크리트 생산 또는 고립 된 답변으로이 페이지를 치료하지 않고 컨텍스트로 이동할 수 있습니다.

주요 실패 모드는 과전력 도구와 함께 제한 된 사람입니다. 성공적인 주입이 대화 경계를 우회하고 행동 표면을 직접 타겟으로 우회 할 수 있기 때문에 위험한 남아있다. 테스트 전에 예상 결과를 기록, 실제로 일어난 일을 캡처, 그리고 틈이 허용 여부 결정, 해결, 또는 큰 충분히 접근을 거부. 그 기록없이 광택 출력은 데모입니다. 재현 가능한 결정으로 검토 된 출력은 생산 증거가 될 수 있습니다.

• 모든 것을 생성하거나 통합하기 전에 예상된 상태 무결성 결과를 정의합니다.
• 정확한 입력, 버전, 설정, 출력 및 결정을 내립니다.
• 1개의 정상적인 케이스, 1개의 경계표 및 1개의 deliberate 실패 케이스를 시험하십시오.
• 도구 또는 플랫폼 업데이트 후 개정, 승인 및 재 검사에 대한 이름을 지정합니다.

유효한 사용의 앞에 모든 AI NPC 산출

플레이어가 가능한 결정으로 시작하면 기술의 소설이 아닙니다. 구조 출력은 주변성을 감소하지만 스키마, 범위, 상태, 정체성, 정책 및 사업 관련 코드의 패스까지 무수하게 유지됩니다. 이 framing은 출시 주간 흥분 페이드 후 유용한 섹션을 유지하므로 독자는 나중에 모델, 엔진 버전, 브라우저 또는 플랫폼 규칙과 같은 결정을 평가 할 수 있기 때문입니다.

이 섹션의 소스 레코드는 기사의 증거 목록에 포함되어 있습니다. 문서화 된 행동 또는 공공 디자인 컨텍스트를 설정하려면 프로젝트 별 성능, 플레이어 선호, 권리 및 실제적인 artifact에 묶여있는 결론을 유지하고 검토 아래 빌드.

실제 구현은 입력, 출력, 실패 상태 및 승인에 대한 서면 계약으로 시작합니다. 알 수없는 필드, 클램프 또는 deny 안전 값, 현재 플레이어 및 퀘스트 상태를 확인, 탈출 디스플레이 텍스트, 그리고 거부 후 안전한 in-character 응답을 반환. 관련 AI-generated 게임 QA 체크리스트는 워크플로우에 두 번째 Elseland 관점을 제공합니다. 따라서 팀은 현재 주제에서 콘크리트 생산으로 이동하거나 고립 된 답변으로이 페이지를 치료하지 않고 컨텍스트를 재생할 수 있습니다.

주요 실패 모드는 understate로 쉽게: 유효한 JSON을 파싱하면 요청된 보상, 관계 변경, 대상 ID, 또는 숨겨진 정보가 통용되지 않은 경우 false 신뢰를 만들 수 있습니다. 테스트 전에 예상 결과를 기록, 실제로 일어난 일을 캡처, 그리고 틈이 허용 여부 결정, 해결, 또는 큰 충분히 접근을 거부. 그 기록없이 광택 출력은 데모입니다. 재현 가능한 결정으로 검토 된 출력은 생산 증거가 될 수 있습니다.

• 예상 사건 응답 결과를 정의하기 전에 생성하거나 아무것도 통합.
• 정확한 입력, 버전, 설정, 출력 및 결정을 내립니다.
• 1개의 정상적인 케이스, 1개의 경계표 및 1개의 deliberate 실패 케이스를 시험하십시오.
• 도구 또는 플랫폼 업데이트 후 개정, 승인 및 재 검사에 대한 이름을 지정합니다.

NPC 기억을 방어하고 Poisoning에서 Retrieval

이 유용한 질문은 기능이 데모에서 인상적 인지 여부는 아니지만 팀이 생산에서 제어 할 수 있는지 여부. 공격자는 기억으로 지시를 저장하려고 할 수 있습니다, summaries 조작, 씨앗 공유 지식, 또는 미래의 행동을 변경하는 콘텐츠를 검색하는 시스템을 원인. 이 framing은 출시 주간 흥분 페이드 후 유용한 섹션을 유지하므로 독자는 나중에 모델, 엔진 버전, 브라우저 또는 플랫폼 규칙과 같은 결정을 평가 할 수 있기 때문입니다.

이 섹션의 소스 레코드는 기사의 증거 목록에 포함되어 있습니다. 문서화 된 행동 또는 공공 디자인 컨텍스트를 설정하려면 프로젝트 별 성능, 플레이어 선호, 권리 및 실제적인 artifact에 묶여있는 결론을 유지하고 검토 아래 빌드.

전체 게임이나 콘텐츠 라이브러리를 통해 워크플로를 확장하기 전에 한 개의 좁은 수직 슬라이딩을 구축하십시오. 사용자의 주장, 기록 입증, 제한 공유 메모리, 인덱스 된 콘텐츠, 만료 낮은 confidence 항목, 및 reapply 보안 정책을 다시 평가 후. 단축 비교 루프를 위해, 미니 게임 플랫폼은 패싱, 입력 명확성, 접근성, 재시작 행동 및 플레이어 피드백이 직접 검사 될 수 있는 컴팩트한 세션을 제공합니다.

주요 실패 모드는 언젠가 될 수 있습니다: 한 번의 대화는 악의적인 텍스트가 신뢰할 수있는 메모리 또는 공유 지식베이스로 홍보되는 경우 지속적 인 교차 세션이 될 수 있습니다. 테스트 전에 예상 결과를 기록, 실제로 일어난 일을 캡처, 그리고 틈이 허용 여부 결정, 해결, 또는 큰 충분히 접근을 거부. 그 기록없이 광택 출력은 데모입니다. 재현 가능한 결정으로 검토 된 출력은 생산 증거가 될 수 있습니다.

• 예상된 신뢰 경계를 정의하기 전에 생성하거나 어떤 결과를 통합.
• 정확한 입력, 버전, 설정, 출력 및 결정을 내립니다.
• 1개의 정상적인 케이스, 1개의 경계표 및 1개의 deliberate 실패 케이스를 시험하십시오.
• 도구 또는 플랫폼 업데이트 후 개정, 승인 및 재 검사에 대한 이름을 지정합니다.

Red-Team과 AI NPC를 실행

공적 예제를 기능 경계의 증거로 치료, 다음 게임 디자인 요구 사항에 경계를 번역. 보안 테스트는 직접, 간접, 다국어, 비분쇄, 반복, 조정, 자원 - exhaustion, 개인 정보 보호, 경제 및 사회 엔지니어링 시나리오를 커버해야합니다. 이 framing은 출시 주간 흥분 페이드 후 유용한 섹션을 유지하므로 독자는 나중에 모델, 엔진 버전, 브라우저 또는 플랫폼 규칙과 같은 결정을 평가 할 수 있기 때문입니다.

이 섹션의 소스 레코드는 기사의 증거 목록에 포함되어 있습니다. 문서화 된 행동 또는 공공 디자인 컨텍스트를 설정하려면 프로젝트 별 성능, 플레이어 선호, 권리 및 실제적인 artifact에 묶여있는 결론을 유지하고 검토 아래 빌드.

검토 게이트 관찰 가능: 다른 개발자는 저장된 빌드 및 소스 레코드에서 결과를 재현 할 수 있어야합니다. 테스트 성적표, 행동 로그, 속도 제한, anomaly alerts, kill switch, authored fallback, kill holder, 그리고 활성 세션을 손상시키지 않고 신속한 및 정책을 업데이트하는 프로세스를 유지하십시오. 관련 AI 게임 컬렉션은 워크플로우의 두 번째 Elseland 관점을 제공합니다. 따라서 팀은 현재 주제에서 콘크리트 생산 또는 고립 된 답변으로이 페이지를 치료하지 않고 컨텍스트로 이동할 수 있습니다.

주요 실패 모드는 종결하기 쉽습니다 : 플레이어가 새로운 조합, 모델 변경 행동, 제작자 콘텐츠 확장 및 도구가 추가 권한을 얻는 사전 발사 테스트 세트가 stale됩니다. 테스트 전에 예상 결과를 기록, 실제로 일어난 일을 캡처, 그리고 틈이 허용 여부 결정, 해결, 또는 큰 충분히 접근을 거부. 그 기록없이 광택 출력은 데모입니다. 재현 가능한 결정으로 검토 된 출력은 생산 증거가 될 수 있습니다.

• 예상된 도구 권한을 정의하기 전에 생성하거나 어떤 결과를 통합.
• 정확한 입력, 버전, 설정, 출력 및 결정을 내립니다.
• 1개의 정상적인 케이스, 1개의 경계표 및 1개의 deliberate 실패 케이스를 시험하십시오.
• 도구 또는 플랫폼 업데이트 후 개정, 승인 및 재 검사에 대한 이름을 지정합니다.

AI NPC를 위한 신속한 주입 안전을 위한 생산 결정 기구

유용한 첫 번째 초안은 팀을 이루어 경계 결정을 내릴 수 있도록해야합니다. AI NPCs에 있는 매트 신속한 주입을 위해, 그 의미는 어떤 기술 또는 디자인 본든지 프로젝트에서 믿을 수 있는 통합할 수 있는 무슨에서 생성할 수 있는 무슨을, 선수 이해할 수 있는 무슨, 그리고 방출 과정이 방어할 수 있는 무슨을 분리하. 이러한 질문을 섞어 false 신뢰를 만듭니다. 시각적으로 강한 결과가 여전히 성능, 안전, 접근성, 유지 보수 검토가 실패할 수 있습니다.

동일한 artifact 또는 build에 대한 각 차원을 점수. 해당 지역별 전문가를 대상으로 한 결과가 벤치마크를 호출하지 않는 업체의 광택 쇼케이스를 비교하지 마십시오. 직접 테스트가 사용할 수 없는 경우, 문서 기반 분석, 불확실성을 유지하고 관찰을 통해 인스테이션을 대체하기 위해 필요한 가장 작은 실험을 정의합니다.

아래 표는 deliberately 도구 중립입니다. 모델, 엔진, API, 또는 플랫폼 변경 후 재사용 할 수 있습니다. 패스는 모든 4 행에 증거를 요구합니다; 한 줄에 있는 힘은 다른 것에 있는 방출 차단 실패를 위해 보상하지 않아야 합니다.

AI NPCs에 있는 신속한 주입을 위한 분야 검증 검사 명부

첫 번째 백리스 결과와 스케일링 전에이 체크리스트를 실행하십시오. 후보 개정에 따라 미끄러운 지선을 유지하십시오. 기본 설정은 실제로 의도한 차원을 개선하거나 단순히 문제가 어딘가에 덜 눈에 띄는지 여부를 나타냅니다.

가능한 한 실제 배송 환경을 사용하십시오. 브라우저, 모바일, 엔진 편집기, 상점 앞, 로컬 인스펜션 조건은 다른 제약을 노출. 장치, 브라우저 또는 엔진 버전, 네트워크 상태, 콘텐츠 버전 및 검토자에 기록하여 나중에 편집기는 메모리에 의존하는 대신 관측을 재현 할 수 있습니다.

4개의 상태 중 하나와 함께 검토를 종료하십시오: 통행, 조건 통행, 개정, 또는 거부. 조건 통행은 경계표, 소유자 및 검토를위한 방아쇠를 요구합니다. “좋아요”는 증거에 대해 아무것도하지 않았기 때문에 공개 상태가 아니며, 사용 또는 알려진 제한이 없습니다.

• 현재 공식 소스 및 액세스 날짜에 대한 문서의 문서 기능을 확인합니다.
• 가장 작은 완벽한 플레이어 루프를 테스트, 격리 된 자산 또는 대화 응답 만.
• 경험에 영향을 미치는 성능, 선명도, 안전 및 회복 행동을 캡처하십시오.
• 규칙을 설명하고 다음 작업을 식별 할 수있는 기능을 구축하지 않은 검토자에 문의하십시오.
• 닻 텍스트 링크, 소스 attributions, disclosures, 및 게시하기 전에 권한 레코드를 검증합니다.
• 허용 된 artifact 및 그 원인을 보존하십시오. 재료 업데이트 후 영향을받는 체크를 반복하십시오.

에비던스, 한계, 그리고 에비뉴먼트 보안에 대한 편집 위치 AI NPCs

이 가이드는 문서 기반 편집 분석이며, Elseland가 모든 이름 제품 또는 게임의 제어 벤치 마크를 수행했다고 주장하지 않습니다. 공식 소스는 공공 기능, 규칙, 릴리스 타이밍 및 디자인 컨텍스트를 설치합니다. 그들은 보편적인 성과, 법적인 정리, 상업적인 성공, 또는 경험 각 선수가 있을 것입니다.

Named 게임은 공공 사례 연구로 사용됩니다. 이 문서는 개인 설계 데이터에 대한 의존하지 않습니다, 개발자와 제휴, 또는 내부 미터의 지식. 분석이 해석에 문서화 된 사실에서 이동할 때, 단어는 조건부 유지하고 인페리드의 디자인 원칙을 식별해야합니다.

출판 전에, 편집기는 다시 열리게 시간 감지 소스, 스크린 샷은 여전히 참조 된 페이지의 영어 버전과 필요한 절대 날짜를 업데이트해야합니다. 가장 강력한 결론은 실제로 실용적이고 경계가 있습니다. 그것의 가정이 프로젝트와 일치할 때 접근 방식을 사용하며 실제 상황에 테스트하고 결정을 다시 볼 수있는 충분한 증거를 유지합니다.