| 17 авг. 2026 г. — 6:30 am PT
Как человек, который зарабатывает на жизнь писательством, вы, без сомнения, догадаетесь, что я полностью поддерживаю идею о том, чтобы текст, сгенерированный с помощью ИИ, можно было обнаружить и соответствующим образом промаркировать. В сети сейчас просто невероятное количество мусора, созданного искусственным интеллектом, и метка «Контент ИИ» означает, что мне не придется тратить свое время на чтение всего этого.
Тем не менее, компания Anthropic только что объявила, что подчиняется инициативе ЕС и внедряет водяные знаки для текста, созданного Claude, однако делает это весьма извращенным способом…
Водяные знаки для изображений и текста, созданных ИИ
Apple уже готовит собственный ответ на проблему изображений, сгенерированных ИИ, с помощью функции, известной как Apple Reference Image. Вполне вероятно, что компании придется сделать нечто подобное и для инструментов Siri AI, поскольку они могут использоваться для самых разных задач — от корректуры до написания текста за вас.
Здесь нет идеального решения, как я уже упоминал на прошлой неделе, говоря об использовании невидимых символов в качестве водяных знаков.
Самое поразительное требование в инициативе ЕС заключается в том, что ИИ-компании должны цифровым образом маркировать водяными знаками не только изображения, но и текстовый вывод. Это можно сделать с помощью невидимых символов, таких как тот, который я только что использовал, чтобы заменить пробел между словами «невидимые» и «символы». Такой метод переживет копирование и вставку, хотя его будет очень легко обойти с помощью оптического распознавания символов.
Извращенный подход Anthropic
Тогда я упоминал предположения о том, что Anthropic может вместо этого пойти по другому пути.
Некоторые предполагают, что Anthropic может зайти так далеко, что начнет использовать определенные языковые паттерны в выводимых Claude текстах, чтобы обеспечить их обнаружение даже после оптического распознавания (OCR). Мне есть многое сказать по поводу этого, но это выходит за рамки данной статьи.
Что ж, теперь выясняется, что компания действительно это делает, так что пришло время мне высказаться!
Проблема не в том, что Claude будет внедрять эти языковые паттерны в текст, полностью сгенерированный ИИ; против этого я ничего не имею. Проблема в том, что некоторые люди пишут собственный текст, а затем используют ИИ-чат-боты для корректуры. Судя по всему, Claude будет встраивать эти скрытые водяные знаки в язык, даже когда его просили лишь найти и исправить грамматические ошибки в написанной человеком работе.
Конечно, это одна из функций, предлагаемых Siri AI. Вы можете выделить написанный вами текст, нажать кнопку Siri и выбрать опцию «Проверить» (Proofread).
Правда, мои собственные ограниченные тесты показывают, что эта функция работает слишком агрессивно. Она не просто находит и исправляет грамматические ошибки, но и предлагает собственную формулировку. Мне бы очень хотелось, чтобы этот процесс был смягчен, чтобы текст оставался работой автора, а исправления были не более навязчивыми, чем правка деликатного литературного редактора.
К слову, именно поэтому я протестировал, но в итоге отказался от Grammarly: предлагаемые им изменения выходили за рамки исправления грамматических ошибок и опечаток, предлагая вместо этого формулировки, которые я бы просто не стал использовать.
Но если предположить, что целью Apple является именно деликатная правка, было бы неправильно, если бы ИИ намеренно коверкал язык только ради того, чтобы текст можно было пометить как контент ИИ. Было бы также неправильно маркировать его как контент ИИ, если сделанные изменения сводятся не более чем к литературной правке. В крайнем случае, здесь уместна лишь метка «Проверено ИИ».
Как я уже сказал, я не претендую на то, чтобы знать все ответы на эти вопросы. Все более широкое использование ИИ-чат-ботов для помощи в написании и редактировании текстов поднимает непростые вопросы. В какой момент статья, написанная человеком и отредактированная ИИ, становится продуктом, который следует правильно идентифицировать как совместную работу автора и системы ИИ?
Чего я точно не понимаю, так это того, зачем намеренно менять формулировки, выбранные автором-человеком, который просил систему ИИ лишь о корректуре. Хотя Apple, безусловно, со временем придется отреагировать на эту проблему, я очень надеюсь, что компания выберет более разумный путь, чем тот, который использует Anthropic.
А что вы думаете по этому поводу? Пожалуйста, поделитесь в комментариях.
- Сертифицированные восстановленные продукты Apple со скидкой 15% на apple.com
- Официальный магазин Apple на Amazon
- Наушники AirPods Pro 3 со скидкой
- Беспроводной адаптер CarPlay
- Чехол с батареей для AirTag со сроком службы 10 лет
- Мышь Logitech MX Master 4 для Mac
Изображение: 9to5Mac/Apple/Sean Fahrenbruch