家族にとって安全なアプリ体験を提供する
2023年7月10日
App Storeは、ユーザーにとってはアプリを入手するための安全かつ信頼できる場として、デベロッパにとっては優れたビジネスチャンスを得られる場として作られています。子どもたちはAppleの製品やサービスを使ってデジタル空間を探索したり、家族や友人とコミュニケーションを取ったりしています。そのため、Appleプラットフォームおよびデベロッパのみなさんが構築するアプリは、多くの家族にとって重要なものになっています。Appleでは、子ども向けアプリ、およびユーザー生成コンテンツやインタラクション機能を備えたアプリを最高基準で維持するよう努めています。今後も家族にとって安全な体験を届けられるよう、アプリ内でのユーザーの安全を確保するために用意されているツール、リソース、要件についてお知らせします。
子ども向けアプリの開発
子どもを利用者として想定しているアプリには、「子ども向け」カテゴリを使用することをおすすめします。これは、家族が対象年齢に適したコンテンツやアプリを見つけることができるように設計されています。このようなコンテンツやアプリは、子どものデータを保護し、購入やアクセス許可（カメラ、位置情報など）に対する強化された保護機能を提供することで、より厳しい基準を満たしています。
ペアレンタルコントロール
アプリの年齢制限指定はオペレーティングシステムに組み込まれており、スクリーンタイムなどのペアレンタルコントロール機能と連携しています。さらに、子どもが新しいアプリやアプリ内課金を購入またはダウンロードしたいとき、「承認と購入のリクエスト」機能を使って、ファミリーオーガナイザーにリクエストが送信されます。また、Managed Settingsフレームワークを使用して、アプリのコンテンツを、保護者が設定したコンテンツ制限に応じて適切なものに制限することもできます。Screen Time API (日本語字幕) は 、ペアレンタルコントロールや仕事効率化アプリ向けのパワフルなツールで、子どもがデバイスを使う方法を保護者が管理するのに役立ちます。子どもがデバイスで何をしているのかを保護者が把握し、安心して使ってもらえるよう、Appleが提供しているツールについて詳細をご確認ください。
センシティブな内容や不適切なコンテンツ
ユーザー生成コンテンツやインタラクション機能を備えたアプリには、不適切な内容がアプリに投稿されることを防ぐためのフィルタリング機能、ユーザーが不適切なコンテンツを報告し、それに対して迅速に対応するメカニズム、不適切な言動を行うユーザーをブロックする機能など、ユーザーを保護するための一連の保護機能が備わっている必要があります。広告を含むアプリには、ユーザーが不適切な広告や年齢にふさわしくない広告を報告するための手段が用意されている必要があります。
iOS 17、iPadOS 17、macOS Sonoma、 watchOS 10では、画像やビデオに含まれるヌードを検出し、画面に表示する前にユーザーに警告する機能が導入されました。Sensitive Content Analysisフレームワーク（英語）は、オンデバイステクノロジーを使用して、アプリ内のセンシティブなコンテンツを検出します。コミュニケーションの安全性またはセンシティブな内容の警告を有効にしているユーザーに対して、検出されたセンシティブな内容を適切に処理するようにアプリ体験が調整されます。
ユーザーのサポート
ユーザーは、「問題を報告」を使うなど、複数の方法でアプリの問題を報告することができます。ユーザーはレビューを書いて、アプリのフィードバックをほかのユーザーやデベロッパに共有したり、ほかのユーザーレビューを使って懸念を報告することもできます。ユーザーレビューを注意深くモニタリングすることで、アプリの安全性を高め、懸念に直接対処することができます。また、別のアプリに信頼性や安全性に関する懸念がある場合や、ガイドラインへの違反が疑われる場合、関連する詳細情報をAppleに提供することができます。お送りいただいた情報は、Appleにて調査されます。
これらのユーザーレビューツールは、App Storeを安全に保つためのAppleの取り組みにおいて不可欠です。Appleでは、機械学習、自動化、人による確認を組み合わせることで、ユーザーレビューや「問題を報告」を通じて提出された不正行為に関する懸念をモニタリングしています。Appleは、詐欺の報告、模倣、不適切なコンテンツと広告、プライバシーと安全性に関する懸念、好ましくないコンテンツ、子どもの搾取など、懸念されるトピックをモニタリングしています。これには、半教師あり（semi-supervised）のCorEx（Correlation Explanation）モデルや、このようなトピックを認識するように特別にトレーニングされた、BERT（Bidirectional Encoder Representations from Transformers）ベースの大規模な言語モデルなどの技術が使用されています。フラグ付きのトピックはApp Reviewチームに報告され、App Reviewチームでアプリをさらに調査し、ガイドラインの違反が見つかった場合は措置を講じます。
Appleでは、家族が安心・信頼して利用できる体験を提供するというミッションをデベロッパのみなさんと共有していると考え、この重要な取り組みを今後も継続してまいります。下記に、参考となるリソースを紹介します。