Когда ИИ заходит слишком далеко: уроки из скандала с Expert Review от Grammarly

Бум ИИ меняет всё вокруг. Новые модели, функции, автоматизация — каждую неделю свежие анонсы. Но за блеском прячется ключевой вопрос: можем ли мы — значит, должны?

Год назад Grammarly (теперь под крылом Superhuman) запустила Expert Review. Звучало просто: подсказки по текстам от "экспертов" на базе ИИ. Проблема в том, что эти "эксперты" копировали реальных журналистов и авторов. Без их согласия. Без единого звонка.

Реакция была молниеносной. Иски, разборки в прессе. Журналисты узнали, что их стиль и имя используют в продукте, о котором они даже не слышали. Это заставило всех задуматься: что такое "нативные ИИ-продукты", если они крадут человеческий облик?

Проблема подражания

Expert Review не про кражу паролей или данных карт. Здесь Grammarly пошла дальше: оживила цифровые копии живых людей и пустила их в дело без спроса.

Представьте: вы годами шлифуете свой голос, стиль, репутацию. А потом это становится топливом для ИИ, который выдаёт советы от вашего имени. Вы не в доле. Не подписывались. Пользователи верят "эксперту" именно потому, что думают — это вы.

Вопросы для всех, кто работает с ИИ:

• Чьи данные на борту? Публичный контент или личные тексты, снятые тайком?
• Честно ли всё? Пользователь знает, что болтает с ИИ, или думает, что с человеком?
• Кто в плюсе? Если продукт на чужой идентичности, почему владелец не в теме?

Что это значит для твоего ИИ-проекта

Строишь ИИ для dev-tools, ML-пайплайнов или hosting-решений? Скандал с Expert Review — сигнал тревоги.

Лучшие ИИ-продукты побеждают не агрессией в сборе данных. Они дают реальную пользу с открытостью и согласием.

Примеры:

Для SaaS: Если фича анализирует поведение пользователей, требуй явного opt-in. Объясняй, как данные влияют на результат.

Для dev-tools: Тренируешь на коде или доках? Авторы заслуживают упоминания и права veto.

Для cloud-хостинга: ИИ распределяет ресурсы или охраняет безопасность? Дай пользователям заглянуть под капот.

Для domain и DNS: ИИ предлагает домены или тюнит DNS? Расскажи, на каких данных это стоит — доверие вырастет.

Как двигаться дальше

Grammarly в итоге закрыла фичу и извинилась. Но суть не в ней. Суть в подходе, который до этого привёл.

Нужны чёткие правила для ранних проверок:

1. Согласие на первом месте. Имя, голос, работы — спроси. По-настоящему.
2. Открытость по умолчанию. Говори прямо: ИИ или человек. Не играй на тумане.
3. Контроль у пользователя. Дай рычаги над данными. Opt-out — в один клик. Opt-in — норма.
4. Справедливость в деньгах. Продукт на чужом труде? Дели по-честному.
5. Проверяй цепочку. Откуда данные? Не можешь объяснить — не трогай.

ИИ не снимает с крючка

ИИ меняет мир к лучшему. Language models, vision, ML — решают задачи, творят ценность.

Но это не лицензия на грабёж без спроса. Сила ИИ только усиливает этику. Вопросы острее.

Долговечные продукты — не те, что жрут больше данных. Те, что строятся на доверии, согласии и партнёрстве с людьми.

Прикидываешь ИИ для domain-интерфейса, hosting-платформы или чего-то ещё? Помни: доверие пользователей — твой главный козырь.

Будущее ИИ — не в выжимании. В совместном создании ценности.