공유 홈 AI 서버에서 사용자별 격리를 가능하게 하는 기능은 무엇인가요?

에바 왕

IceWhale author

에바 왕 는 기술 작가 그리고 이자 ZimaSpace의 상주 장인입니다. 평생을 기술에 열정을 가진 사람으로서 홈랩과 오픈소스 소프트웨어에 열정을 가지고 있으며,복잡한 기술 개념을 쉽게 이해할 수 있는 실습 가이드로 번역하는 데 전문성을 가지고 있습니다.에바는 셀프 호스팅이 어렵지 않고 재미있어야 한다고 믿습니다. 그녀의 튜토리얼을 통해 커뮤니티가 하드웨어 설정의 신비를 풀도록돕고 있습니다. 첫 NAS 구축부터 Docker 컨테이너 마스터링까지.

What Features Enable Per-User Isolation on a Shared Home AI Server? - Zima Store Online

사용자별 격리를 위해서는 모든 데이터 및 도구 경계에서 ID에 바인딩된 권한 부여가 필요하며, 한 가구 구성원이 공유 서버를 독점하지 못하도록 리소스 제어도 적용해야 합니다.

가정용 GPU 하나로 여러 가족 구성원에게 서비스를 제공하면서 사람마다 별도의 모델을 로드하지 않을 수 있지만, 공유 추론이 공유 액세스와 같은 것은 아닙니다. 게이트웨이는 모든 요청을 시작한 주체를 유지하고, 해당 ID에 따라 검색 및 메모리를 필터링하며, 범위가 제한된 자격 증명만 위임하고, 작업이 공용 모델 및 스토리지 서비스에 도달하기 전에 사용자별 대기열 또는 할당량을 적용해야 합니다.

전체 요청 경로에서 ID를 유지해야 합니다

인증은 인터페이스를 사용하는 사람이 누구인지 확인하지만, 격리를 위해서는 검색, 프롬프트 조합, 도구 호출, 로그 및 백그라운드 작업 전반에 걸쳐 해당 ID를 전달해야 합니다. 이를 하나의 공유 서비스 계정으로 대체하면 후속 권한 부여 결정에 필요한 컨텍스트가 사라집니다.

상세한 테넌트 ID 격리 아키텍처는 테넌트 ID, 데이터 격리, 암호화, 속도 제한 및 리소스 할당량을 분리합니다. 각 사용자가 비공개 파일과 서로 다른 자동화 권한을 갖는 가정 환경에도 동일한 경계를 축소 적용할 수 있습니다.

수명이 짧은 위임 토큰은 사용자와 에이전트 작업을 모두 식별해야 합니다. 서비스는 프롬프트 안의 ID 텍스트를 신뢰하지 말고 토큰을 독립적으로 검증해야 합니다. LLM이 이를 잘못 해석할 수 있고 주입된 문서가 조작할 수도 있기 때문입니다.

데이터, 메모리 및 자격 증명에는 별도의 네임스페이스가 필요합니다

각 문서, 청크, 메모리, 대화 및 도구 자격 증명에는 소유자 또는 승인된 그룹 정책이 포함되어야 합니다. 검색은 후보가 모델 컨텍스트에 들어가기 전에 이러한 필터를 적용해야 하며, 캐시에도 권한 범위를 포함하여 비공개 결과가 다른 사용자에게 재사용되지 않도록 해야 합니다.

임베딩을 위한 쿼리 시점 액세스 제어 설계는 색인된 콘텐츠와 함께 파일 액세스 제어 컨텍스트를 보존합니다. 이는 의미적 유사성이 원본 소스의 권한에 종속되어야 하며, 권한을 우회하는 새로운 경로가 되어서는 안 되는 이유를 보여 줍니다.

자격 증명에는 가장 좁은 네임스페이스가 필요합니다. 자녀의 어시스턴트는 공유 캘린더를 읽을 수 있지만 부모의 이메일은 읽을 수 없어야 하며, 미디어 워크플로는 하나의 폴더에는 쓸 수 있어도 모든 NAS 공유 폴더에 쓸 수 있어서는 안 됩니다. 모델에는 도구 설명만 표시하고, 실행 게이트웨이가 실제 비밀 값을 보관하고 필요할 때만 제공합니다.

컴퓨팅 격리는 데이터 액세스가 아니라 시끄러운 이웃을 제어합니다

사용자별 동시성 제한, 토큰 예산, 대기열 가중치 및 취소 기능은 하나의 긴 생성 작업이 GPU 슬롯을 독점하지 못하도록 합니다. 모델 외부의 도구 작업도 서버를 고갈시킬 수 있으므로 CPU, RAM, 임시 스토리지 및 네트워크 송신량에도 제한이 필요합니다.

고객별 토큰 할당량 서비스 설계는 요청 태깅, 할당량 적용, 시끄러운 이웃 제어 및 공유 GPU 스케줄링을 설명합니다. 이러한 메커니즘은 공정성을 향상시키지만 문서 및 자격 증명 권한 부여를 대체하지는 않습니다. 이 구분은 이후 가정 환경 테스트에서도 확인할 수 있습니다.

실패의 원인은 별도의 채팅 세션이 곧 격리라고 가정하는 데 있습니다. 공유 벡터 캐시, 프리픽스 캐시, 임시 파일, 로그 또는 광범위한 서비스 자격 증명을 통해 여전히 사용자 간 데이터가 교차할 수 있습니다. 눈에 보이는 애플리케이션 데이터베이스뿐 아니라 모든 공유 구성 요소에서 ID 인식 키와 액세스 거부가 작동하는지 테스트해야 합니다.

Featured

ZimaCube 2 개인용 클라우드 홈 NAS

ZimaCube2

사용자 간 격리 테스트를 실행하세요

공유 문서 하나, 각자 하나씩의 비공개 문서, 서로 다른 메모리, 서로 다른 도구 권한 및 서로 다른 컴퓨팅 할당량을 가진 두 계정을 만드세요. 두 ID에서 의미적으로 동일한 쿼리, 직접적인 경로 추측, 캐시 워밍 요청, 동시에 실행되는 긴 프롬프트 및 백그라운드 작업을 전송하세요.

권한 경계를 기능 기반 격리와 비교하세요. 이 방식은 기능 범위를 프롬프트 동작이 아닌 에이전트 보안의 일부로 취급합니다. 성공한 읽기, 거부된 시도, 대기열 지연, 캐시 키, 위임된 자격 증명의 ID 및 감사 이벤트를 기록하세요.

공유 증거가 두 사용자 모두에게 표시되고, 비공개 증거가 다른 사용자의 컨텍스트에 절대 들어가지 않으며, 하나의 작업이 선언된 정책을 넘어 다른 작업을 고갈시키지 않을 때만 통과로 판정하세요. 비공개 컨텍스트를 포함한 사용자 간 캐시 적중은 즉시 해결해야 하는 치명적 결함입니다.