Trust Insights 만나 보기

안녕하세요, 저는 Mike Armstrong이고 Apple의 엔지니어링 매니저입니다. 이 영상에서는 Trust Insights를 사용하여 감지하는 방법을 배우게 됩니다. 앱에서 발생하는 소셜 엔지니어링 위협에 대응하는 방법도 알아봅니다. 소셜 스캠은 점점 늘어나는 문제입니다. 시스템이 아닌 사람을 표적으로 삼는 공격입니다. 소셜 엔지니어링은 인간 심리를 악용합니다. 기술적인 취약점이 아닌 방식으로 말이죠. 사용자는 압박을 받거나 두려움을 느끼거나, 속임을 당해 정당한 행동을 수행하도록 유도됩니다. 그리고 앱은 진짜 의도와 강요된 의도를 구별할 수 없습니다.

업계 전반에 걸쳐 파트너의 피드백을 통해, 반복적으로 나타나는 강요 패턴 몇 가지가 두드러집니다. 기술 지원 스캠은 가짜 경보로 원격 접근을 유도하고, 사용자를 속여 제어권을 넘기게 만듭니다. 권위 사칭은 은행, 정부 기관으로 위장하거나, 법 집행 기관을 사칭해 민감한 정보를 수집합니다. 그리고 가족 긴급 상황 사기는 감정적 유대를 이용한 급박한 송금 요청으로, AI로 생성된 딥페이크를 점점 더 많이 활용합니다. 실시간 코칭은 탐지를 특히 어렵게 만듭니다. 공격자는 음성 통화, 채팅, 메시지를 통해 피해자가 행동을 취하도록 유도합니다. 그러면 사용자가 직접 그 행동을 수행합니다. 인증된 방식으로, 정당하게. 다중 인증과 생체 인식 같은 기존 보호 수단들은 이 시나리오에서는 효과가 없습니다. 사용자가 직접 행동하기 때문입니다.

새로운 종류의 신호가 필요합니다. 인증은 '누구인지'는 확인하지만, 자유롭게 행동하는지는 확인하지 못합니다.

행동 맥락은 진정한 의도와 강요된 행동을 구별하는 데 도움이 됩니다.

결정적으로, 이 신호는 사용자를 보호하면서도 프라이버시를 보존해야 합니다.

Trust Insights는 iOS 27에서 도입된 프레임워크로, 앱이 이 행동 맥락을 이해할 수 있도록 새로운 접근 방식을 제공합니다. Trust Insights를 앱에 통합하는 방법, API 사용 요구 사항, 프라이버시 아키텍처에 대한 설명, 그리고 앱이 신뢰 신호에 응답하는 예시를 마지막으로 다룹니다.

인사이트 생성부터 시작하겠습니다. Trust Insights는 디바이스와 클라우드 인프라를 결합한 프레임워크이지만, 통합은 완전히 클라이언트 측에서 Swift API를 사용해 이루어집니다.

첫 번째 단계는 구성입니다. Trust Insights를 생성하려면 엔타이틀먼트가 필요합니다. Xcode에서 앱 타겟에 기능을 선언하여 이를 구성하세요.

Trust Insights를 import한 후, 다음 단계는 요청할 인사이트를 담은 파라미터 팩을 만드는 것입니다. schema는 필수이지만 modelVersion은 선택 사항입니다. 동일한 인사이트의 현재 버전과 이전 버전을 모두 지정하면 모델 거버넌스와 검증을 지원할 수 있습니다.

InsightEvaluator는 여러 인사이트를 받아들입니다. context에서 operationCategory를 지정합니다. 그리고 evaluations도 지정합니다. operation category는 사용자가 수행하는 행동의 종류를 시스템에 알려주고, 어떤 모델 로직이 적용될지를 결정합니다. 다섯 가지 카테고리를 사용할 수 있습니다. payment: 인앱 구매를 포함한 자산, 콘텐츠, 또는 돈의 모든 교환.

account: 계정 세부 정보 또는 보안 정보 업데이트.

resourceUse: AI 추론 같은 비용이 많이 들거나 제한된 인프라에 대한 요청. 예를 들어 AI 추론. communication: 메시지 전송, 양식 제출, 또는 문서 서명. 그리고 other: 위 항목에 해당하지 않는 작업을 위한 폴백. 사용 사례가 여기에 해당된다면 Feedback Assistant를 통해 피드백을 제출하세요. 다음으로 InsightContext를 전달하여 InsightEvaluator를 생성하세요. 사용자는 Trust Insights의 사용에 대해 완전한 제어권을 가지므로, 앱이 승인되었는지 확인해야 합니다. 그렇지 않은 경우 사용자에게 알리는 것이 좋습니다. 이제 준비가 되었습니다. 비동기적으로 requestEvaluation을 호출하세요. 주의하세요. 결과를 제공하는 데 몇 초가 걸릴 수 있으며, 인터넷 연결이 필요합니다. 사용자 경험에서 이 코드가 어디에 위치하는지 또는 흐름을 신중히 고려하는 것이 중요합니다. 기존 애니메이션을 활용하고 싶을 수도 있습니다. 또는 적절한 순간에 중간 화면을 사용하세요. 개발 중에는 요청이 샌드박스 환경에 접근합니다. App Store에 배포되면 요청은 프로덕션 모델과 서버에서 평가됩니다. 결정 로직과 UX 변형을 테스트하려면, 인사이트 값과 오류를 재정의할 수 있습니다. Xcode에서 프로젝트의 빌드 체계를 커스터마이징하여 설정하세요.

사용 가능한 실행 인수에 대한 자세한 정보는, Trust Insights의 개발자 문서를 확인하세요.

응답에는 요청된 InsightEvaluation마다 하나의 결과가 포함됩니다. IsLikelyBeingCoachedInsight의 경우 세 가지 가능한 값이 있습니다:

unknown: 시스템이 스캠 위험의 증거를 발견하지 못했으나, 이것이 낮은 위험으로 해석되어서는 안 됩니다. medium: 코칭 위험의 일부 증거가 있습니다. 사용 사례에 따라 마찰을 추가하는 것을 고려하세요. 추가 인증을 요구하거나 위험 점수를 조정하세요. high: 코칭 위험의 상당한 증거가 있습니다. 사용자는 진행하기 전에 결정된 위험에 대해 안내를 받아야 합니다.

평가 수준과 인사이트 수준의 오류를 각각 독립적으로 처리해야 합니다. 세부 사항은 개발자 문서에 있습니다. 세 가지 값 뒤에는 정교한 ML 모델이 있습니다. 디바이스 소스 데이터는 로컬에서 처리됩니다. 입력값은 평가 후 즉시 폐기됩니다. 단 하나의 출력 값만이 사용자의 디바이스를 떠납니다. 최종 출력에는 Apple Account 신호가 포함될 수 있으며, 추가 컨텍스트를 위한 속도 확인도 포함될 수 있습니다. 두 가지 유형의 피드백이 통합을 완성합니다: 실시간 소비 피드백과, 앱이 인사이트에 어떻게 응답했는지 보고하는 것, 그리고 오프라인 피드백. 나중에 사기로 판명된 거래의 경우에 사용됩니다. 실시간 피드백을 제출하려면, 평가 결과에서 reportConsumption을 호출하세요. 이 호출은 각 인사이트 평가 요청에 필수입니다. 생략하면 앱이 속도 제한을 받을 수 있습니다. 여섯 가지 소비 값을 사용할 수 있습니다: usedReducedFriction 인사이트가 작업을 더 쉽게 만드는 데 기여했습니다. usedUnchangedFriction 인사이트가 평가되었지만 경험을 변경하지 않았습니다. usedIncreasedFriction 인사이트가 추가적인 확인이나 마찰로 이어졌으나, trust insight만을 근거로 한 차단은 권장하지 않습니다.

notUsedNotNeeded 사용자가 취소하여 결정이 필요하지 않았습니다. notUsedError 결과가 너무 늦게 도착하는 등 기술적 오류로 사용이 불가했습니다. usedEvaluationOnly 인사이트가 내부 평가 및 벤치마킹 같은 용도로 사용되었으나, 사용자 경험에는 영향을 주지 않았습니다.

오프라인 레이블은 모델 개선에 매우 중요합니다. trust insight 평가가 최종적으로 확인된 사기로 결론 날 경우, 그 신호는 모델이 실제 성능을 이해하는 데 도움이 됩니다.

이 보고서는 며칠, 몇 주, 또는 몇 달 후에 제출될 수 있습니다.

Apple Business Register를 통해 제출하세요. 서버 간 API를 사용하여 원본 평가의 인사이트 식별자가 포함된 정의된 스키마로 제출합니다.

제출 시 PII 같은 불필요한 정보를 포함하지 마세요. 프라이버시 보호 기법을 적용하고 핑거프린팅에 사용될 수 있는 나머지 값들에도 마찬가지로 적용하세요.

오프라인 레이블 제출은 Trust Insights의 혜택을 받는 데 필수는 아니지만, 모두를 위한 생태계를 강화합니다. 더 자세한 내용은 개발자 문서에서 확인할 수 있습니다. 이것으로 전체 통합을 다루었습니다: 구성, 평가, 결과 및 피드백. 다음은 프라이버시입니다. 데이터 최소화는 Trust Insights가 작동하는 방식의 핵심입니다. 프레임워크는 필요한 것만 처리하고, 입력값은 즉시 폐기하며, 디바이스 소스 데이터는 모두 디바이스에 보관합니다. 프라이버시는 모든 Apple 제품과 서비스의 근본입니다. 처음부터 고려되며, 개발 전반에 걸쳐, 그리고 각 서비스가 운영되는 동안 지속적으로 반영됩니다. Trust Insights는 상호작용 패턴을 분석합니다. 타이밍, 컨텍스트, 기본 센서 데이터를 분석합니다. 사진, 메시지, 메일의 내용은 절대 분석하지 않습니다. 이러한 디바이스 파생 신호 중 어떤 것도 Apple이나 서드파티와 공유되지 않습니다. 사용자는 완전한 제어권을 가지고 설정에서 Trust Insights를 비활성화할 수 있습니다.

비활성화 후 쿨다운 기간이 적용될 수 있습니다. 비활성화하도록 코칭을 받았을 수 있는 사용자를 보호하기 위함입니다.

인증 상태를 쿼리하여 사용자가 앱에서 Trust Insights를 활성화했는지 확인해야 합니다. Trust Insights는 Apple의 자체 서비스에서 사용되어 왔으며, 공유할 실용적인 권장 사항이 있습니다. 예시를 들어보겠습니다. 사용자가 대규모 송금을 설정하고 있습니다. 가족을 치료 중인 의사라고 주장하는 사람에게 보내는 것입니다. 뒤에서 앱은 trust insight를 요청했습니다.

.medium 결과가 앱의 흐름을 조정하도록 유도합니다. 이 경우, 경고를 표시하고 거래에 지연을 추가합니다. 사용 사례에 따라 결과를 서버 측에서 처리하거나, 수동 검토 단계를 추가하거나, 사용자를 방해하지 않고 위험을 조정할 수 있습니다.

올바른 접근 방식은 앱, 사용자, 그리고 제품에 따라 다릅니다. Trust Insights를 언제 호출할지 선택하는 것은 어떻게 호출할지만큼 중요합니다. 가장 많은 가치를 더하는 순간을 고려하세요. 개인 간 결제 같은 고가치 금융 거래. 계정 삭제나 개인 데이터 내보내기 같은 되돌릴 수 없는 행동. 원격 접근이나 새 디바이스 승인 같은 권한 부여. 그리고 자격 증명이나 개인 문서 같은 민감한 데이터 공유. 중요한 순간을 파악하는 것 외에도, 고려해야 할 다른 모범 사례들이 있습니다: Trust Insights를 기존 위험 및 결정 로직에 통합하세요. 어떤 결정에서도 유일한 요소나 결정 인자가 되어서는 안 됩니다. 시간이 지남에 따라 다양한 모델 버전을 샘플링하는 기능을 활용하여 최신 모델이 결정 로직에 미치는 영향을 파악하세요. 행동을 취하기 전에. 모든 레벨에서 오류를 처리하세요. 평가 오류와 인사이트 오류는 다른 의미를 가집니다. unknown이나 누락된 값을 낮은 위험으로 취급하지 마세요.

피드백은 생태계를 풍요롭게 하고 모든 사람이 강요의 피해자가 되지 않도록 보호하는 데 도움이 됩니다. 속도 제한을 피하려면 앱에서 직접 실시간 인사이트 피드백을 제출해야 합니다. 가능하다면 Apple Business Register를 통해 오프라인 사기 레이블도 제공하세요.

앱에서 Trust Insights가 함께 작동할 수 있는 순간을 파악하여 기존 로직으로 사용자를 보호하세요. 그 다음, 모범 사례와 개발자 문서를 따라 프레임워크를 채택하세요. Apple Business Register에 비즈니스를 등록하여 Partner Data Services에 대해 알아보세요. App Attest에도 관심이 있으실 수 있습니다. 서버 요청이 올바른 앱 인스턴스에서 왔는지 확인하는 프레임워크입니다.

지금이 Feedback Assistant를 통해 Trust Insights에 대한 피드백을 제출하기 가장 좋은 시기입니다. 프레임워크, 기능, 또는 고사용량 사용 사례 등 어떤 측면이든. Trust Insights는 행동 컨텍스트를 앱에 제공하여, 프라이버시를 보존하면서 강요를 감지하는 데 도움을 줍니다. 가장 중요한 순간에 통합하고, 결과를 신중하게 처리하세요. 그리고 피드백 루프를 완성하여 생태계를 강화하세요.