Опубликовано: 14 мая 2024 г.
Вывод данных на стороне клиента с помощью ИИ происходит на устройстве, что может быть невероятно эффективным в сочетании с любой существующей серверной конфигурацией. Встроенный ИИ — это одна из форм клиентского ИИ, которая переносит модели в браузер, защищая конфиденциальные данные и сокращая задержку.
- Конфиденциальность и безопасность : ИИ на стороне клиента позволяет работать с данными локально, что значительно повышает вашу способность работать с конфиденциальными данными, обеспечивая их безопасность и конфиденциальность. Вы можете предоставлять пользователям функции ИИ с использованием сквозного шифрования.
- Повышенная доступность : ИИ на стороне клиента может помочь повысить доступность для ваших пользователей. Устройства ваших пользователей могут взять на себя часть вычислительной нагрузки в обмен на расширенный доступ к функциям ИИ. Если ваш продукт предлагает премиум-сервис, вы можете рассмотреть возможность бесплатного тарифа с функциями ИИ на стороне клиента, чтобы ваши клиенты могли оценить возможности премиум-сервиса.
Запуск ИИ на стороне клиента не может полностью заменить и воспроизвести работу, выполняемую в облаке. В конце концов, серверы невероятно мощные и способны хранить большие и сложные модели, которые быстро выдают результаты.
Клиентская сторона не всегда является правильным выбором, поэтому, прежде чем двигаться дальше, мы хотим напомнить вам о некоторых передовых практиках:
- Создавайте свои функции с учётом изящных резервных копий и проводите бенчмарки на целевых устройствах. Не каждое устройство сможет выступать в роли мощного ИИ-компьютера.
- Создавайте решения для конкретных сценариев использования . Клиентский ИИ лучше всего подходит для конкретных сценариев использования. Модели изначально меньше, чем те, что обычно используются в серверном ИИ. Разбейте процесс на целевые этапы и используйте предварительную и постобработку, чтобы даже небольшие модели могли обеспечить наилучший результат.
- Стратегически подходите к требованиям к загрузке . Модели ИИ могут быть большими, что может привести к значительному потреблению мобильных данных и памяти устройства. Убедитесь, что вы разрабатываете полезную функцию для своих пользователей и используете ответственную стратегию обслуживания и кэширования.
Поделитесь своим мнением
Мы хотим узнать, какие варианты использования вас больше всего интересуют, и узнать ваши отзывы о нашем подходе. Вы можете поделиться своим мнением и присоединиться к программе раннего ознакомления, чтобы протестировать наши решения на локальных прототипах.
Ваш вклад может помочь нам сделать ИИ мощным и практичным инструментом для каждого.
Начните работу со встроенными API ИИ в Chrome.