Как изкуственият интелект става първата линия на защита срещу подвеждащата реклама

Когато една реклама изглежда напълно нормална – с добре подготвен текст, професионални изображения и легитимно изглеждаща целева страница – но тайно насочва потребителите към вредно съдържание, традиционните инструменти за модерация често напълно я пропускат. Това е точно предизвикателството, което Meta се опитва да преодолее сега с нов набор от системи за откриване, базирани на изкуствен интелект (AI), и последствията от това простират далеч извън социалните мрежи.

Проблемът с „слоя на измамата“

Съвременната вредна реклама е еволюирала отвъд очевидните признаци. Днешните „злодеи“ инвестират масивно в това рекламите им да изглеждат автентични. Те използват домейни, които изглеждат легитимни, имитират естетиката на известни марки и използват техники за оптимизация на конверсиите, които правят откриването чрез конвенционални методи все по-трудно.

Основният проблем не е задължително самата реклама – а дестинацията. Реклама за приложение за продуктивност може да премине първоначалния преглед, но домейнът, към който тя в крайна сметка пренасочва, може да бъде нещо съвсем различно. Този „слой на измамата“ между съдържанието на рекламата и крайната дестинация се е превърнал в предпочитан вектор на атака именно защото експлоатира разликата между творческия преглед и мониторинга на домейните.

Какво носи AI на масата

Подходът на Meta използва модели за машинно обучение, обучени да идентифицират поведенчески модели, вместо да разчитат единствено на класификация на съдържанието. Системата анализира:

• Шаблони на пренасочване и репутация на домейна – проследяване на веригата от домейни, през които преминава една реклама, преди да достигне до крайната си дестинация.
• Временни аномалии – маркиране на реклами, които се държат по различен начин след първоначалното одобрение спрямо времето по време на активни кампании.
• Мрежови връзки – идентифициране на клъстери от домейни и акаунти, които споделят подозрителни характеристики.
• Сигнали за потребителско поведение – откриване на необичайни модели в начина, по който потребителите взаимодействат с конкретни реклами или ги докладват.

Това представлява фундаментална промяна от реактивна модерация (преглед на съдържанието след публикуването му) към превантивно откриване (идентифициране на заплахите, преди те напълно да са се материализирали).

Техническите последици за сигурността на платформите

За разработчиците и създателите на платформи, обявяването на Meta сигнализира нещо важно: бъдещето на модерацията на съдържание се крие в поведенческия AI, а не в статичните системи, базирани на правила. Същите принципи се прилагат в цялата уеб екосистема.

В NameOcean виждаме това отразено в начина, по който системите за репутация на домейните все по-често включват машинно обучение. Регистриращите домейни и доставчиците на хостинг разработват подобни възможности за откриване, за да идентифицират домейни, използвани за подвеждащи цели – било то за вредна реклама, фишинг кампании или други вредни дейности.

Техническата архитектура, подкрепяща тези усилия, обикновено включва: