Google ужесточит модерацию ИИ-контента в Android-приложениях с 2024 года
Google установит новые требования к модерации контента для приложений на Android, использующих ИИ. С начала следующего года разработчики таких приложений должны внедрить функцию для жалоб на оскорбительный или спорный материал непосредственно в пользовательском интерфейсе. Эти изменения затронут не только чат-боты на основе ИИ, но и приложения, создающие визуальный и аудио контент. Инициатива направлена на борьбу с недопустимым контентом, в том числе с дипфейками и дезинформацией.
Google уточнила, что новая политика будет применяться не ко всем приложениям с ИИ. Она коснется чат-ботов, приложений для создания изображений, голосового и видеоконтента. Приложения, которые только хранят сгенерированный ИИ-контент или используют ИИ для обобщения текстовых материалов, останутся вне зоны действия новых правил.
Google акцентирует внимание на определенных категориях контента, требующих строжайшей модерации. В этот список входят фальшивые видео или изображения, созданные без согласия изображенных на них людей, а также записи реальных людей, применяемые в мошеннических целях.
Кроме того, компания будет особенно внимательно следить за распространением ложной или вводящей в заблуждение информации, связанной с выборами. Не менее строгий контроль установлен и для приложений, в которых генеративный ИИ используется преимущественно для сексуального удовлетворения, а также создания вредоносного кода.
В своем заявлении Google подчеркнула, что генеративный ИИ является быстро развивающейся категорией приложений, что дает основания полагать, что компания может пересмотреть свою политику в области ИИ по мере дальнейшего развития технологии. Помимо новых правил в отношении контента, генерируемого ИИ, Google также расширила политику разрешений на использование фото- и видеоматериалов в Play Store, ограничивая доступ Android-приложений к данным.
«Фотоматериалы и видеозаписи на устройствах пользователей являются их личной и конфиденциальной информацией, требующей максимально ответственного отношения, — подчеркнула компания в своем заявлении. — Такие данные создают потенциальную уязвимость для пользователей в случае утечек или других форм эксплуатации. Ограничение доступа к ним не только повышает уровень безопасности пользователей, но и снижает нагрузку на разработчиков в части обработки чувствительной информации».
Обговорення новини
Попередні новини
В смартфоне Honor Magic6 появится «глазное управление» интерфейсом11:13 27.10.2023На проводимом Qualcomm мероприятии Snapdragon Summit глава китайской компании Honor Джордж Чжао (George Zhao) рассказал о новом флагманском смартфоне Honor Magic6 и сообщил любопытную подробность: одна из функций устройства позволяет взаимодействовать с ним при помощи глаз.
CRM: Идеальное сочетание спорта и технологий23:57 26.10.2023Современный фитнес бизнес стоит перед вызовами, требующими эффективного управления и использования современных технологий. В этой статье мы рассмотрим, как CRM стала неотъемлемой частью фитнес индустрии и почему она является идеальным сочетанием спорта и технологий.
WhatsApp позволит использовать два аккаунта на одном устройстве одновременно22:14 22.10.2023Генеральный директор Meta Марк Цукерберг (Mark Zuckerberg) объявил о скором появлении функции переключения между двумя аккаунтами WhatsApp на одном устройстве. Данное нововведение может быть актуальным для тех, кто использует разные учетные записи для рабочей и личной переписок.
