Глобальна мережа журналістів-розслідувачів (GIJN) оприлюднила розлогий гайд із верифікації контенту, створеного нейромережами. В епоху, коли створення якісної фальшивки займає лічені хвилини, а перевірка фактів — години, ці інструменти стають «набором для виживання» у сучасній редакції.

У світі, де нейромережі Midjourney та DALL-E навчилися малювати правильну кількість пальців на руках, старі методи перевірки візуального контенту перестають працювати. Новий посібник, підготовлений експертом з OSINT Хенком ван Ессом, пропонує журналістам передові методи боротьби з дезінформацією.

Чому старі правила більше не діють?

Ще рік тому журналісти шукали «зайві пальці», дивні зуби або асиметричні сережки, щоб викрити ШІ-зображення. Сьогодні топові моделі генерації практично позбулися цих «дитячих хвороб». Як зазначає автор посібника, «неадекватна впевненість у застарілих навичках небезпечніша за чесну невпевненість». Тепер акцент зміщується з пошуку очевидних візуальних помилок на аналіз імовірностей та використання самого ШІ проти ШІ.

Сім стовпів верифікації

Посібник пропонує системний підхід, розділений на сім категорій для перевірки:

1. Анатомічні збої: хоча ШІ став кращим, він все ще помиляється у дрібних деталях будови тіла.
2. Порушення законів фізики: неправильні тіні, відблиски або предмети, що «ширяють» у повітрі.
3. Технічні сліди: цифрові «відбитки пальців» нейромереж у частотній області.
4. Голосові артефакти: специфічні спотворення у дипфейк-аудіо.
5. Контекстна логіка: чи відповідає одяг сезону, а архітектура — локації.
6. Поведінкові патерни: неприродна міміка або моторика на відео.
7. Професійна інтуїція.

Новий інструмент: «Заклинач зображень»

Однією з головних новинок посібника стала презентація інструменту Image Whisperer (раніше відомого як Detectai.live). Замість того щоб намагатися вручну знайти помилки, цей сервіс використовує потужності великих мовних моделей та Google Vision для аналізу фізичних параметрів зображення. Він виявляє ознаки генерації, які часто залишаються непомітними для людського ока.

Чому це важливо?

«Ми наближаємося до моменту, коли співвідношення сигнал–шум дорівнює одиниці: стає практично неможливо визначити, що є реальним, а що — ні», — застерігають у GIJN. Вартість створення політичного скандалу за допомогою ШІ сьогодні становить близько 8 доларів і займає менше ніж пів години. Для медіа це означає, що верифікація має стати невід’ємною частиною кожного робочого процесу. 

Посібник доступний за лінком:

Виявлення контенту, створеного за допомогою ШІ: Посібник для журналістів – Global Investigative Journalism Network