Appleは本日、秋のOSアップデートで導入される3つの新しいチャイルドセーフティ機能を発表しました。これらの機能の実装の詳細は技術的に複雑なため、どのように実現されているのか気になる方は、ぜひ全文のドキュメントをお読みください。

最初の機能は、メッセージアプリに組み込まれる保護者向けツールです。Appleによると、

メッセージアプリはデバイス上の機械学習を使用して機密コンテンツについて警告する一方で、プライベートな通信は Apple によって読み取られないようにします。

このオプトインツールは「性的に露骨な写真を送受信する際に子供とその親に警告する」ものとなる。

2つ目の機能は、ユーザーのiCloudフォトライブラリにオンラインで保存されている写真に適用されます。Appleは次のように述べています。

iOSとiPadOSは、ユーザーのプライバシーに配慮しながら、オンラインでのCSAMの拡散を抑制するために、新しい暗号化技術を活用します。CSAM検出機能は、iCloudフォトにおけるCSAMの収集に関する貴重な情報を法執行機関に提供するのに役立ちます。

iCloudフォトの画像審査は、既知のCSAMコンテンツの暗号ハッシュを用いてデバイス上で行われ、一定の基準を満たした後に人間による審査プロセスを通過した場合、アカウントは無効化され、全米行方不明・被搾取児童センター（NCICE）に報告されます。この機能は当初、米国のみで利用可能です。

最終的に、Apple は次のことを発表しました。

また、Siriと検索のガイダンスを拡充し、子どもと保護者がオンラインで安全に過ごし、危険な状況で助けを得られるよう、追加リソースを提供しています。例えば、Siriに児童虐待や児童搾取の報告方法を尋ねると、報告先と方法を示すリソースが表示されます。

CSAM 関連の検索リクエストが行われた場合にも、Siri と検索が介入します。

Appleがこれらの機能をどのように実装しているかをより深く理解するには、Appleの新しい子どもの安全に関するウェブページをご覧ください。ページの下部には、これらの機能の基盤となる技術を説明する追加リソースへのリンクがあります。