ChatGPT обращается к пользователям по именам без запроса

Некоторые пользователи ChatGPT недавно заметили странное явление: иногда чат-бот обращается к ним по имени. Ранее это не было стандартным поведением, и несколько пользователей утверждают, что ChatGPT упоминает их имена, хотя они никогда не сообщали, как их называть.

Отзывы оказались неоднозначными. Беглый поиск по платформе X показывает множество пользователей, сбитых с толку и настороженных поведением ChatGPT, основанным на имени.

Неясно, когда именно произошло это изменение и связано ли оно с обновленной функцией «памяти» ChatGPT, которая позволяет чат-боту использовать прошлые чаты для персонализации своих ответов. Некоторые пользователи X утверждают, что ChatGPT начал называть их по имени даже после отключения памяти и связанных с ней настроек персонализации.

В любом случае, эта реакция иллюстрирует зловещую долину, которую OpenAI может быть трудно преодолеть в своих попытках сделать ChatGPT более «личным» для пользователей. На прошлой неделе генеральный директор компании Сэм Альтман намекнул на системы ИИ, которые «узнают вас на протяжении вашей жизни», чтобы стать «чрезвычайно полезными и персонализированными». Однако судя по последним отзывам, не все в восторге от этой идеи.

Статья психиатрического отделения The Valens Clinic в Дубае может пролить свет на инстинктивные реакции на использование имени ChatGPT. Имена передают интимность. Но когда человек — или чат-бот — часто использует имя собеседника, это может восприниматься как неаутентичность.

Возможно, еще одна причина нежелания многих пользователей видеть свое имя в ответах ChatGPT заключается в том, что это кажется неуклюжим — попыткой очеловечить бесчувственного бота.