Роль штучного інтелекту в інформаційній війні

Базове визначення

Штучний інтелект — це алгоритми, здатні обробляти величезні обсяги даних, а також генерувати текст, зображення, звук і відео. Для теми інформаційної війни важливі саме дві ці здатності: аналізувати й створювати.

Емоційний гачок заняття

Заняття починається з питання, чи траплялися учням у соцмережах зображення, які виявилися згенерованими, і чи чули вони про відео або аудіо, що виявилося не тим, чим здавалося. Особистий досвід тут є в майже кожного.

Генерація тексту

Раніше мережа ботів потребувала людей, які писали коментарі. Тепер тисячі унікальних, не повторюваних дослівно коментарів створюються за хвилини. Це знімає головне технічне обмеження таких мереж.

Генерація зображень

Створюються фотографії подій, яких не було, — з достовірним освітленням, деталями й вигаданими людьми. Такі зображення часто супроводжують текстові фейки, підвищуючи довіру до них.

Deepfake

Відео чи аудіо, у якому реальна людина говорить те, чого ніколи не казала. Найнебезпечніший формат — не гучне політичне відео, а коротке аудіоповідомлення нібито від знайомого: його не перевіряють.

Аналіз даних

ШІ обробляє дані про поведінку користувачів і визначає, які саме групи найвразливіші до конкретного наративу. Далі контент створюють адресно — під конкретну аудиторію.

Що змінилося насправді

Підробки існували завжди. Принципова зміна в тому, що тепер вони майже нічого не коштують, а отже, їх можна виробляти тисячами. Дешевизна перетворює якісний виняток на масове явище.

Джерело

Перше й головне: хто автор і де перша публікація. Якщо гучне відео існує лише в анонімних каналах і не має першоджерела — це вже відповідь, незалежно від технічної якості.

Деталі зображення

Руки й пальці залишаються класичною слабкою точкою генерації. Текст на вивісках, документах і табличках часто нечитабельний або беззмістовний. Тіні й відображення не завжди узгоджені між собою.

Голос

Синтезований голос часто має неприродно рівну інтонацію, збої на паузах і подиху, а емоція не відповідає змісту сказаного. У коротких записах ці ознаки помітити найважче.

Метадані й контекст

Дата, місце зйомки, історія публікації матеріалу. Часто фейк викривається не аналізом самого файлу, а тим, що зображена подія суперечить перевіреним фактам про час і місце.

Правило сукупності

Жодна ознака окремо не доводить підробку: дивна тінь може бути помилкою камери, а рівний голос — манерою мовлення. Висновок роблять за сукупністю ознак і завжди залишають місце для перевірки.

Зниження довіри

Коли підробити можна будь-що, сумнівним стає будь-яке відео — включно зі справжнім. Це підриває саму можливість доказу.

Маніпуляція настроями

Адресно згенерований контент дозволяє впливати на настрої конкретних груп значно точніше, ніж масова пропаганда попередніх десятиліть.

Втручання в приватність

Обличчя й голос конкретних людей використовують без їхньої згоди. Жертвою може стати будь-хто, чиї фото або відео є в мережі.

Спотворення фактів

Підробка, поширена швидше за спростування, витісняє оригінал: у памʼяті аудиторії залишається саме вона.

Головна теза

Найбільша шкода не в тому, що люди повірять підробці. Вона в тому, що люди перестануть вірити справжньому — бо «зараз усе можна згенерувати». Це рівно той ефект, якого прагне сучасна пропаганда.

Медіаграмотність

Знання про самі технології вже є захистом: людина, яка знає про існування deepfake, перевіряє гучне відео замість того, щоб реагувати на нього.

Перевірка джерела

Перед будь-якою реакцією — репостом, коментарем, обуренням — знаходять першоджерело. Це працює однаково і для згенерованого контенту, і для звичайного фейку.

Скепсис до емоційного контенту

Матеріал, який викликає сильну емоцію, перевіряють у першу чергу. Саме емоція вимикає перевірку — і саме тому її навмисно закладають у підробку.

Фактчекінгові ресурси

Спеціалізовані ресурси перевіряють гучні матеріали швидше за окремого користувача. Звернення до них займає менше часу, ніж самостійний технічний аналіз.