Nvidia допустила остановку поставок чипов разработчикам небезопасного ИИ
Nvidia готова рассмотреть возможность остановить поставки чипов клиенту, который создаёт небезопасные ИИ-системы. В интервью Bloomberg Дженсен Хуанг уточнил, что прежде компания связалась бы с ним и провела переговоры.
Хуанг назвал прекращение поставок гипотетическим сценарием, но подтвердил, что Nvidia могла бы пойти на такой шаг. По его словам, сначала компания связалась бы с клиентом и провела переговоры. Как сообщает 3DNews, Хуанг подчеркнул, что Nvidia не управляет другими компаниями и не может полностью контролировать использование своих универсальных технологий.
Глава Nvidia не согласился с призывами руководителей ИИ-компаний, в том числе главы Anthropic Дарио Амодея, замедлить развитие технологии. Хуанг считает опасения по поводу безопасности частью становления отрасли. Вместо паузы в разработках он предлагает ускорять создание средств мониторинга и сдерживания, в том числе применять ИИ для контроля других ИИ-систем.
Компания также направит 250 млн долларов на поддержку исследований в области безопасности ИИ в Великобритании в течение пяти лет. Помощь предоставят в форме доступа к вычислительным мощностям. Среди возможных пользователей ресурсов названы Оксфордский университет и Университетский колледж Лондона: там планируют исследовать защиту ИИ и способы контроля интеллектуальных агентов.
