Gemini готовит уведомления родителям о разговорах детей о самоповреждении
В коде приложения Google для Android нашли признаки новой функции родительского контроля для Gemini. Она может дополнить уже действующие ограничения для детских аккаунтов.
Строки с упоминанием уведомлений обнаружили в версии приложения Google 17.73.15.sa.arm64. В них говорится, что родитель получит оповещение, если Gemini обнаружит в переписке разговоры о причинении вреда себе. Ещё одна строка сообщает ребёнку, что уведомления о безопасности включены.
Сейчас родители могут управлять доступом детей к Gemini через Family Link. Для общения с несовершеннолетними сервис также использует дополнительные фильтры ответов. Судя по найденному коду, Google может добавить к этим мерам предупреждения для родителей о потенциально опасных темах в чатах.
Пока обнаружены только элементы интерфейса для детской стороны: как будут выглядеть уведомления для родителей, неизвестно. В тексте также прямо говорится, что ребёнок будет знать о включённых оповещениях. Из-за этого подростки могут реже обсуждать с чатботом проблемы психического здоровья. Найденные строки не раскрывают, как Google собирается учитывать этот риск.
Функцию нашли при разборе APK, то есть установочного файла приложения. Разбор позволяет увидеть функции, над которыми работает компания, но не гарантирует, что они появятся в публичной версии. В том же приложении обнаружили признаки разработки ограничений времени использования Gemini для детей.
