OpenAI добавила инновации в изображения, созданные с помощью своего генератора изображений на искусственном интеллекте (ИИ) DALL.E 3 и других инструментов, поскольку теперь в них интегрированы метаданные.
OpenAI обеспечивает прозрачность с помощью метаданных
Согласно сообщению OpenAI на X, фирма подтвердила, что помимо включенных метаданных на изображениях DALL.E 3, также будут иметь теги изображения, созданные на ChatGPT. Добавление метаданных стало возможным благодаря использованию спецификации C2PA, открытому техническому стандарту, который предоставляет издателям, компаниям и другим возможность встраивать метаданные в медиафайлы.
Интеграция метаданных позволяет проверить происхождение любого изображения, и это одно из преимуществ, которое преследует OpenAI. Компания считает, что метаданные на ее изображениях помогут легко идентифицировать, что медиафайлы от OpenAI. Также через метаданные изображения можно получить другую связанную информацию.
Тем не менее, стоит отметить, что метаданные могут быть отсоединены от изображения как намеренно, так и случайно, и в случаях, когда это происходит, “отсутствие метаданных не означает, что изображение не от ChatGPT или нашего API”, – подчеркнула компания.
OpenAI отметила, что принятие этого метода и других будущих методов установления происхождения, а также призыв пользователей быть внимательными к этим сигналам – все это шаги, направленные на повышение целостности и надежности цифровой информации.
Изменение метаданных для мобильных пользователей вступит в силу с 12 февраля 2024 года. Тем временем интеграция ограничена только изображениями, созданными с помощью ChatGPT OpenAI.
Растущие проблемы конфиденциальности в экосистеме ИИ
OpenAI сделала этот смелый шаг, поскольку проблемы конфиденциальности в области ИИ начали достигать небывалых уровней. Многие люди очень обеспокоены влиянием ИИ на общество и на то, насколько небезопасно находиться вокруг технологии LLM для людей. Недавно было обнаружено, что некоторые модели ИИ проявляют обманное поведение, которое может быть вредным для людей.
Помимо проблем конфиденциальности, некоторые злоумышленники постоянно используют ИИ для осуществления своих незаконных действий. Генеральный директор Ripple Брэд Гарлингхаус предупредил своих последователей о схеме, при которой мошенники клонировали видео с его ложным призывом владельцам XRP отправить свои монеты для обещанного удвоения.
Таким же образом, несколько компрометирующих изображений и видео поп-певицы Тейлор Свифт были распространены и многократно просмотрены в интернете, одно из них было просмотрено до 47 миллионов раз. Чтобы избежать многих подобных инцидентов, OpenAI, кажется, прилагает усилия для внедрения дополнительных функций и обновлений.