Компания Anthropic внедрила новую политику, чтобы соответствовать Кодексу прозрачности Закона ЕС о ИИ, который теперь требует от технологических компаний маркировать контент, созданный или отредактированный с помощью ИИ, так, чтобы это было идентифицируемо для компьютерных систем. Однако, несмотря на удовлетворение европейских регуляторов, некоторые пользователи ИИ явно недовольны. Доказательства нарастающего недовольства можно найти на Reddit, хотя не все пользователи согласны с критикой. Один из более эмоциональных постов был написан пользователем с ником visionode, чей аккаунт существует всего три недели. По словам visionode, новая система водяных знаков является драконом, созданным для того, чтобы жертвовать невинными пользователями чат-ботов по всему миру. Основной аргумент visionode заключается в том, что, хотя опытные пользователи Claude могут скрыть доказательства использования ИИ, перефразируя или очищая свои результаты с помощью других ИИ-сервисов, средний пользователь Claude будет пойман. "Кто будет пойман? Вы. Студент, который использовал Claude для реорганизации абзаца. Журналист, который попросил ИИ подвести итоги двухсотстраничного текста. Писатель, который страдал от творческого блока и попросил синонимы. Эти люди выходят из процесса с цифровой татуировкой на лбу".

Хотя я не собираюсь умалять возмущение visionode, эти примеры не самые удачные. Журналист, который просит ИИ подвести итоги двухсотстраничного текста, вряд ли будет беспокоиться о водяном знаке, прикрепленном к этому резюме, если только он не копирует и не вставляет его в свою статью дословно, что явно неэтично и не должно происходить. То же самое касается студента, который копирует и вставляет результаты Claude в эссе после запроса "реорганизовать абзац". Другие пользователи Reddit также не поддержали возмущение автора поста. "Посмотрите на этого парня," — прокомментировал один из пользователей. Другой предложил автору "глубоко вздохнуть". Visionode не был единственным недовольным. Другой пользователь назвал водяные знаки "неэтичными" и "отвратительными", утверждая, что, используя Claude, они сделали основную часть работы. По их мнению, чат-бот был просто "инструментом", который облегчал их труд. "Я дал инструкции, контекст, решения и бесчисленные уточнения, Claude был инструментом. Если Claude начнет ставить водяные знаки на код или что-то еще, что он генерирует, за что именно он претендует на кредит?" — спросил автор поста. В ответ другие пользователи также начали критиковать его. "Он не претендует на кредит," — ответил один из пользователей. "Дело в том, чтобы иметь возможность обнаруживать результаты, созданные ИИ, из-за рисков, которые они могут вызвать в различных ситуациях". "Парень даже не смог бы пожаловаться на Claude, не используя его для написания," — добавил другой.

Некоторые критики избегали нарратива жертвы и высказывали более тонкие аргументы против новой политики Anthropic. Например, один из пользователей пожаловался на общую гипокрисию в маркировке редакционного продукта, который сам был создан путем сбора работ других людей. "Я думаю, что это очень зловещее направление," — сказал пользователь. "Я не использую Claude для написания чего-либо, но наличие ИИ, который ставит водяные знаки на вашу работу, является ужасно ироничным, учитывая, сколько данных использовалось для обучения многих передовых моделей". В целом, однако, пользователи, как правило, поддержали систему водяных знаков как разумный способ отслеживания материалов, созданных алгоритмом. "На самом деле нет никаких хороших аргументов против этой идеи," — сказал один из пользователей в другом обсуждении. "Единственная причина, по которой вы не захотите этого, — это чтобы обмануть людей".

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *