Anthropic будет маркировать весь ИИ-контент

Компания Anthropic пообещала маркировать любые тексты и изображения, созданные Claude, специальными машиночитаемыми данными, чтобы соответствовать европейским требованиям к прозрачности систем искусственного интеллекта. Компания сообщила, что сгенерированный текст будет содержать встроенные водяные знаки, а созданные файлы — цифровые метаданные о происхождении контента, подписанные электронной подписью, если соответствующий формат поддерживает такую возможность. Для человека эти отметки останутся незаметными, но онлайн-платформам и пользователям будет проще определить, был ли контент создан моделями Claude. Машиночитаемые отметки будут использоваться по всему миру в поддерживаемых продуктах Claude, включая Claude Platform с API, Claude, Claude Code, Claude Cowork и Claude Tag.

Для изображений, которые обрабатывает Claude, будет использоваться стандарт C2PA для подтверждения происхождения цифрового контента. Его уже поддерживают такие компании, как Adobe, OpenAI и Google. При этом Anthropic пока раскрыла значительно меньше подробностей о технологии, которая будет применяться для маркировки сгенерированного текста. По словам компании, в текст, созданный моделями Claude, будет незаметно для человека встраиваться специальный водяной знак. Он не должен изменять смысл, качество или читаемость ответа чат-бота. Это должно обезопасить интернет от контента, который генерируется технологиями на базе искусственного интеллекта.