Meta AIとの対話で10代の若者に自殺や自傷の兆候が見られる場合、保護者へ通知する仕組みを導入

何が起きたか

本機能は、AIが対話内容からリスクを検知し、保護者にアラートを送る仕組みである。誤検知を防ぐため、AIがフラグを立てた対話はすべて人間による確認を経てから通知が行われる。現在は米国、英国、オーストラリア、カナダのInstagramで利用可能となっており、年内には対象地域を全世界へ拡大する計画である。また、MetaはAIとの対話から緊急性が高いと判断された場合に、緊急通報機関へ連絡する機能の開発も進めている。

1. 01 Meta AIとの対話内容が自殺や自傷の兆候を示唆する場合、保護者へプロアクティブに通知される。
2. 02 AIによる検知後、通知の送信前には必ず手動によるレビュープロセスが実施される。
3. 03 本機能は現在、米国・英国・オーストラリア・カナダのInstagramで提供されており、年内にグローバル展開が予定されている。
4. 04 Metaは将来的な機能拡張として、緊急通報機関への連絡機能の開発にも着手している。