OpenAI наняла исследователя Anthropic на роль главы по подготовке к рискам
Автор: Елизавета Добровольская OpenAI закрыла вакансию в команде по безопасности: на пост главы по preparedness пришёл Дилан Скандинаро, ранее работавший исследователем по ИИ-безопасности в Anthropic. О назначении сообщает Business Insider; Сэм Альтман объявил о нём в среду и сказал, что был «extremely excited» приветствовать Скандинаро в компании.
По данным издания, новая должность может приносить до 555 000 долларов в год плюс акции. В объявлении о вакансии компания писала, что кандидат должен уметь руководить техническими командами, принимать решения в условиях неопределённости и выстраивать работу так, чтобы разные стороны сходились на решениях по безопасности.
Альтман отдельно сказал, что задачей Скандинаро станет подготовка компании к «очень мощным моделям», которые вскоре появятся в работе. Он добавил, что новый глава preparedness будет руководить усилиями OpenAI по снижению серьёзных рисков, и назвал его лучшим кандидатом, которого встречал для этой роли. Сам Скандинаро написал, что благодарен за время в Anthropic и работе рядом с коллегами, а также напомнил, что ИИ развивается быстро, вместе с выгодами и рисками «extreme and even irrecoverable harm». Ранее Инженер программы чипов OpenAI перешёл в Anthropic.
Назначение происходит на фоне вопросов к подходу OpenAI к безопасности. В компании за последние годы ушли несколько ранних сотрудников, включая бывшего руководителя команды по безопасности, а сама OpenAI сталкивалась и с исками пользователей, которые утверждали, что её инструменты способствовали вредному поведению. В октябре компания также сообщала, что около 560 000 пользователей в неделю показывают возможные признаки психического кризиса, и говорила, что консультируется со специалистами по психическому здоровью, чтобы доработать ответы чатбота в таких случаях.
