Google почне позначати фотографії користувачів, у які «втрутився» ШІ
Додаток «Google Фото» почне використовувати цифрові водяні знаки SynthID для фотографій, відредагованих за допомогою генеративного штучного інтелекту (ШІ). За заявою Google, нова функція призначена для полегшення ідентифікації зображень, які були змінені за допомогою інструменту Reimagine в Magic Editor.
Magic Editor дає змогу легко редагувати фотографії через текстові запити, додаючи або видаляючи різні деталі. Хоча самі по собі ШІ-інструменти не становлять загрози, Magic Editor може створювати неправомірні компіляції, наприклад, гелікоптери, що розбилися, сцени аварій, причому без явних міток, які вказують на те, що зображення було змінено.
Водяні знаки покликані вирішити цю проблему. Однак SynthID візуально не змінює зображення і щоб зрозуміти, що воно було відредаговане ШІ, доведеться додатково використовувати функцію перевірки «Про зображення». Ба більше, Google визнає, що деякі невеликі зміни, виконані через Magic Editor, можуть бути настільки незначними, що SynthID не зможе ідентифікувати ці зміни та застосувати маркування.
Експерти зазначають, що хоча водяні знаки можуть допомогти в ідентифікації компіляцій, цієї технології недостатньо для масштабної перевірки контенту, створеного нейромережами. Для надійності потрібно використовувати цілий комплекс підходів і програмних засобів.
Зазначимо, що система водяних знаків використовується в нейромережі Google Imagen AI, яка генерує зображення на основі тексту. Аналогічні інструменти були розроблені й іншими компаніями, наприклад, функція Content Credentials компанії Adobe захищає від несанкціонованого доступу до метаданих і дає змогу авторам додавати інформацію про себе.
Технологія SynthID була розроблена командою DeepMind і являє собою цифровий метатег, вбудований у зображення, відео, аудіо або текст. Цей тег дає змогу ідентифікувати, чи були файли створені або змінені за допомогою ШІ.
Джерело: SmartPhone.ua
Обговорення новини
Попередні новини
Патентна заявка OpenAI розкриває плани зі створення цілої екосистеми ШІ-пристроїв23:50 06.02.2025Минулої п'ятниці стартап OpenAI, що спеціалізується на штучному інтелекті, подав нову заявку на реєстрацію товарного знака для продуктів, пов'язаних із брендом, у Відомство з патентів і товарних знаків США (USPTO).
Google відмовилася від обіцянки не використовувати ШІ у військових і шпигунських цілях22:55 05.02.2025Компанія Google переглянула свою позицію в галузі безпеки штучного інтелекту (ШІ), прибравши обіцянку не застосовувати ШІ для військових і розвідувальних цілей.
ChatGPT навчився проводити глибокі дослідження, аналізуючи сотні джерел в інтернеті21:41 03.02.2025Компанія OpenAI анонсувала нову функцію для свого ШІ-бота ChatGPT, яка дасть змогу алгоритму проводити "глибокі дослідження" на підставі користувацького запиту. Йдеться про інструмент Deep research, основою для якого стала ще не випущена в маси велика мовна модель OpenAI o3.
