Privacy-Preserving Intelligence — Steve Korshakov, Bee (acq. Amazon)

한 줄 핵심

개인용 AI 웨어러블이 극도로 민감한 데이터를 다루는 만큼, 모든 데이터를 종단간 암호화하고 키는 사용자 기기에만 남겨 내부자도 접근할 수 없게 설계한 것이 핵심이다.

시간별 요약

1. 0:01
   이 AI 웨어러블은 사용자의 대화를 거의 전부 기록해 개인 에이전트를 만들기 때문에, 1주만 써도 사람의 사생활을 폭넓게 추론할 수 있을 정도로 민감한 데이터를 다룬다. 그래서 기본 전제는 편의가 아니라 강한 암호화와 데이터 비접근 원칙이다.
2. 2:00
   개인 에이전트는 요청-응답형이 아니라 항상 동작하는 상태ful 런타임이어야 하며, 배터리 같은 사용자 자원을 과도하게 쓰지 않으면서도 장시간 연속 실행돼야 한다. 이를 위해 지속 메모리와 외부 도구 연동을 갖춘 구조로 설계했다.
3. 4:01
   보안의 핵심은 키를 사용자 iPhone 또는 Android에만 저장하고, 서버에는 키를 남기지 않는 것이다. 여기에 투명성 로그, 감사 가능한 워크로드, 의존성 최소화가 더해져 내부 위협까지 고려한 종단간 보호 체계를 만든다.
4. 5:01
   키는 휴대폰에서 시작해 attestation 파이프라인으로 검증된 뒤에만 백엔드와 신뢰 컴퓨트 노드로 복제되며, 7일 강제 만료로 메모리 내 키의 생존 시간을 제한한다. 또한 배포 가능한 workload를 transparency log와 서명 키로 통제해, 조직 내부에서도 눈치채지 못한 변경이 사실상 어렵게 설계했다.
5. 9:00
   배포된 모든 이미지와 manifest는 추적 가능해야 하며, self verification을 거친 VM이 암호화 증명과 attestation 문서를 포함한 certificate를 발급한다. 구현 규모는 약 20k lines 수준으로 유지해 재사용 가능한 신뢰 소프트웨어는 활용하되, 핵심 검증 경로만 직접 엄격하게 감사하는 방식이다.
6. 14:05
   자율 에이전트는 자유도를 높일수록 위험이 커지므로, 실제 안전성은 sandboxing과 권한 차단에서 나온다. 개인용 에이전트는 원하는 대로 행동하게 두기보다, 해를 끼칠 수 있는 경로를 원천적으로 막는 하네스 설계가 더 중요하다.

실무 인사이트

• 개인 데이터 에이전트는 모델 성능보다 먼저 데이터 경계, 키 소유권, 배포 통제부터 설계해야 실제로 운영 가능하다.
• 내부자 위협까지 고려하려면 암호화만으로 부족하고, attestation·transparency log·서명 통제처럼 검증 가능한 운영 구조가 함께 필요하다.
• 자율성을 높이는 대신 sandboxing과 최소 권한을 강하게 적용하면, 장기 실행 에이전트의 안전성과 실용성을 동시에 확보할 수 있다.