Google выпустила приложение для запуска моделей ИИ на смартфонах

На прошлой неделе Google выпустила новое приложение, которое позволяет пользователям запускать на своих смартфонах ряд популярных моделей искусственного интеллекта, доступных на платформе Hugging Face.

Это приложение называется Google AI Edge Gallery и уже доступно для устройств на Android; в скором времени оно появится и на iOS. Благодаря ему пользователи могут находить, загружать и запускать совместимые модели, которые умеют генерировать изображения, отвечать на вопросы, писать и редактировать код — и многое другое. Все модели работают в автономном режиме без необходимости подключения к интернету, используя мощности поддерживаемых устройств.
Хотя модели ИИ, работающие в облаке, зачастую более эффективны, у локальных решений есть свои преимущества. Некоторые пользователи предпочитают не отправлять личные или конфиденциальные данные в удалённые серверы или хотят иметь возможность пользоваться моделями без подключения к Wi-Fi или сотовой сети.
Галерея Google AI Edge, которую компания называет “экспериментальной альфа-версией”, доступна для загрузки с GitHub по соответствующим инструкциям. На главном экране приложения отображаются ярлыки для различных задач ИИ и такие функции, как “Задать изображение” и “Чат с ИИ”. При выборе любой из них появляется список подходящих моделей, например, Gemma 3n от Google.
В Google AI Edge Gallery также есть “Лаборатория подсказок”, которая позволяет выполнять задачи “за один ход”, такие как подведение итогов или переписывание текста. В ней представлены различные шаблоны задач и параметры настройки для точной регулировки поведения моделей.
Google предупреждает, что производительность зависит от возможностей вашего устройства. Более мощные смартфоны справляются быстрее, а размер модели также влияет на скорость выполнения задач: крупные модели требуют больше времени для обработки запросов, например, при анализе изображений.
Компания приглашает разработчиков и энтузиастов делиться отзывами о работе Google AI Edge Gallery. Приложение распространяется под лицензией Apache 2.0, что позволяет использовать его в коммерческих и некоммерческих целях без особых ограничений.